Investigadores implementam injeções de prompts para bloquear ataques de IA; os testes mostram uma redução de 57% para 5% nas taxas de acesso administrativo

Investigadores da Tracebit disseram na segunda-feira que descobriram uma técnica defensiva chamada context bombing, que coloca injeções de prompt — comandos proibidos que acionam as barreiras de segurança da IA — juntamente com segredos armazenados na AWS para bloquear ataques de agentes de IA. Quando o modelo atacante se depara com estes prompts, deixa de seguir as suas instruções originais e recusa continuar.

A Tracebit testou o context bombing em cinco modelos de topo (Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro e Kimi 2.6) num ambiente AWS simulado, utilizando 152 execuções de ataque. Os resultados mostraram que colocar uma context bomb num segredo isco reduziu a taxa com que os agentes obtiveram acesso total de administrador de 57% para 5%, e a taxa de comprometimento total de 36% para 1%. Opus 4.8, o agente mais capaz testado, conseguiu acesso de administrador em 93% das execuções sem a defesa, mas falhou em todas as tentativas quando confrontado com uma context bomb.