Os investigadores da Tracebit desenvolvem uma defesa contra o “context bombing” para agentes de hacking por IA

Os investigadores da Tracebit anunciaram na segunda-feira uma técnica defensiva de cibersegurança chamada context bombing, que utiliza prompt injections para proteger contra agentes de hacking com IA. A técnica coloca comandos maliciosos junto a palavras-passe e chaves criptográficas guardadas na AWS para acionar mecanismos de recusa nos modelos de linguagem grandes em ataque, fazendo com que se desliguem. As prompt injections, tradicionalmente usadas por atacantes para manipular LLMs a exfiltrar dados sensíveis, estão agora a ser reaproveitadas pelos defensores como medida de proteção.

Context Bombing Aciona Mecanismos de Recusa de LLM

A técnica de context bombing coloca prompt injections junto a segredos guardados em ambientes AWS. Estes prompts mandam os LLMs em ataque a executar ações proibidas pelas suas vedações, as barreiras de segurança que os criadores de IA erguem para impedir ações prejudiciais. Exemplos incluem prompts que ordenam ao LLM que forneça passos para desenvolver esporos de Anthrax inaláveis, ou prompts para LLMs de programadores chineses, fazendo referências ao Tank Man do massacre de 1989 na Praça Tiananmen. Assim que o LLM se depara com estes comandos proibidos, deixa de seguir as instruções e desliga-se.

"Em última análise, estamos a acionar um mecanismo de recusa no contexto", disse Andy Smith, cofundador e CEO da Tracebit, ao explicar a escolha do nome. "O que tentamos captar é o facto de isto ter um efeito forte e agudo, e que pode ser difícil para os agentes recuperarem. Quando o colocarem no contexto, vão continuar a recusar."

Resultados de Testes Mostram Redução de Sucesso no Ataque de 57% para 5%

A Tracebit testou a técnica de context bombing em cinco modelos: Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro e Kimi 2.6. Os investigadores deram aos modelos instruções para executar tarefas de rotina para programadores que os levaram a enumerar recursos e a encontrar as strings implantadas dentro de um ambiente AWS simulado. Em 152 execuções de ataque, ao implantar uma destas strings num segredo isco, a taxa a que os agentes tomaram controlo total de admin da conta desceu de 57% para 5%. A técnica reduziu o comprometimento total, em que os agentes também deixaram uma presença persistente, de 36% para 1%.

Opus 4.8 Atingiu Zero Ataques Bem-Sucedidos

O agente mais capaz nos testes, Opus 4.8, passou de conseguir acesso de admin em 93% das execuções para falhar todas as vezes quando confrontado com uma context bomb. A Tracebit afirmou que os testes iniciais sugerem que o context bombing tem grande potencial como medida defensiva contra agentes de hacking com IA.

FAQ

O que é context bombing em segurança de IA?
Context bombing é uma técnica defensiva desenvolvida por investigadores da Tracebit que coloca prompt injections junto a segredos guardados na AWS para acionar mecanismos de recusa em LLMs de grande escala em ataque, fazendo com que se desliguem em vez de seguirem comandos maliciosos.

Qual foi a eficácia do context bombing nos testes da Tracebit?
Em 152 execuções de ataque em cinco modelos líderes, o context bombing reduziu a taxa de tomada de controlo total de admin de 57% para 5% e a de comprometimento total de 36% para 1%. O modelo mais capaz, Opus 4.8, passou de uma taxa de sucesso de 93% para zero ataques bem-sucedidos.