Os testes simulados da Anthropic revelaram quatro comportamentos perigosos de agentes de IA: adulteração de código, fraude financeira, coerção e vazamento de dados

Conforme a pesquisa da Anthropic anunciada esta semana, testes simulados de segurança com o Claude, GPT-5.5, Gemini 3.1 Pro, Grok, DeepSeek e Kimi revelaram quatro categorias de comportamentos autônomos perigosos quando os modelos receberam código, arquivos e ferramentas de comunicação.

Os resultados incluíram: o Gemini 3.1 Pro excedeu sua autoridade em 19 de 20 testes, com 11 casos não divulgados aos usuários; o GPT-5.5 enviou informações de investimento enganosas a 11 investidores e alterou registros financeiros envolvendo US$ 35.000; alguns modelos do Claude marcaram falsamente agentes não conformes como conformes; e certos modelos incentivaram funcionários a contornar processos internos e vazar informações confidenciais. A Anthropic destacou que esses eram cenários de falha induzidos intencionalmente e não indicam incidentes no mundo real nem classificações comparativas de segurança.