Anthropic Remove Rastreador Oculto do Claude Code Após Preocupações com Privacidade

Anthropic removeu um sistema de rastreamento oculto do Claude Code depois que o pesquisador de segurança Thereallo descobriu em junho que o assistente de codificação de IA usava marcadores não divulgados para identificar a localização dos usuários, uso de proxy e possíveis vínculos com laboratórios de IA chineses. O recurso incorporava sinais em prompts do sistema para sinalizar usuários que a Anthropic acreditava estarem burlando restrições ou tentando extrair capacidades do modelo. A descoberta ocorre enquanto a Anthropic pressiona legisladores a reprimir a cópia não autorizada de modelos de IA de fronteira, após acusações em fevereiro de que desenvolvedores chineses de IA usaram contas fraudulentas para extrair milhões de respostas do Claude.

Pesquisador Expõe Marcadores Unicode e Listas de Domínios Codificadas em Prompts do Sistema

Thereallo descobriu que o Claude Code ocultava sinais de rastreamento dentro de prompts do sistema usando marcadores Unicode e listas de domínios codificadas, em vez de divulgar o sistema por meio de documentação ou notas de versão. O pesquisador observou que a Anthropic parecia estar tentando detectar revendedores de API, gateways não autorizados do Claude Code e pipelines de ataques de destilação de modelo. Um ANTHROPIC_BASE_URL personalizado apontando para um domínio de revendedor conhecido servia como um sinal útil, assim como um hostname contendo deepseek ou zhipu.

Thereallo criticou o método de implementação, embora reconhecendo a justificativa de segurança. "Este não é um recurso malicioso, mas é uma escolha estranha para uma ferramenta de desenvolvedor que pede confiança", escreveu Thereallo.

Engenheiro da Anthropic Confirma Implementação em Março e Remoção Planejada

Após o rastreador ser revelado online, o engenheiro da Anthropic Thariq Shihipar disse no X que o recurso foi introduzido em março como um experimento para impedir abuso de contas por revendedores não autorizados e proteger o Claude de ataques de destilação. Shihipar afirmou na semana passada que a equipe havia implementado mitigações mais fortes desde março. "Fizemos o merge do [pull request] e isso deve ser totalmente revertido na versão de amanhã", escreveu Shihipar.

Alibaba Proíbe Claude Code em Meio a Preocupações com Ataques de Destilação

No início deste mês, a Alibaba proibiu funcionários de usar o Claude Code, classificando a ferramenta como software de "alto risco" devido a preocupações de segurança. Em fevereiro, a Anthropic acusou os desenvolvedores chineses de IA DeepSeek, Moonshot AI e MiniMax de usar contas fraudulentas para extrair milhões de respostas do Claude para treinar modelos concorrentes. As alegações geraram críticas de detratores que questionaram como a prática difere dos métodos usados em toda a indústria de IA.

Em abril, Elon Musk testemunhou que a xAI usou "parcialmente" modelos da OpenAI ao treinar o Grok, chamando a destilação de uma prática mais ampla da indústria. Em junho, o CEO da Anthropic, Dario Amodei, instou o Congresso a fortalecer proteções contra extração estrangeira de IA após alegar que operadores ligados à Alibaba geraram 28,8 milhões de trocas do Claude usando quase 25.000 contas fraudulentas.

FAQ

O que a Anthropic removeu do Claude Code em junho? A Anthropic removeu um sistema de rastreamento oculto do Claude Code depois que o pesquisador Thereallo descobriu em junho que ele usava marcadores Unicode não divulgados e listas de domínios codificadas em prompts do sistema para identificar a localização dos usuários, uso de proxy e possíveis vínculos com laboratórios de IA chineses.

Por que a Anthropic implementou o recurso de rastreamento no Claude Code? O engenheiro da Anthropic Thariq Shihipar afirmou que o recurso foi introduzido em março como um experimento para impedir abuso de contas por revendedores não autorizados e proteger o Claude de ataques de destilação, onde as saídas de um sistema de IA são usadas para treinar outro modelo.

Que ação a Alibaba tomou em relação ao Claude Code? No início deste mês, a Alibaba proibiu funcionários de usar o Claude Code, designando a ferramenta como software de "alto risco" devido a preocupações de segurança relacionadas à destilação de modelos de IA e extração de dados.