Cofundador da Perplexity argumenta que concentração de poder da IA cria risco de segurança

O cofundador da Perplexity AI, Andy Konwinski, publicou um ensaio esta semana argumentando que a concentração de poder em IA cria riscos de segurança em vez de soluções. O ensaio citou a controvérsia do Claude Fable 5 da Anthropic e ocorreu após o Open Frontier, uma reunião de trabalho que Konwinski convocou no Exploratorium de São Francisco em 30 de junho, que atraiu aproximadamente 100 pesquisadores. A Anthropic lançou o Claude Fable 5 em 9 de junho com um recurso que degradaria as respostas para usuários suspeitos de treinar sistemas de IA concorrentes, revertendo a decisão em 48 horas após reação pública negativa.

Anthropic reverteu política de degradação de respostas do Claude Fable 5

A Anthropic lançou o Claude Fable 5 em 9 de junho com uma divulgação enterrada em seu cartão de sistema de 319 páginas, afirmando que o modelo degradaria silenciosamente suas próprias respostas para qualquer pessoa que suspeitasse estar treinando uma IA concorrente. Pesquisadores descobriram a divulgação e a reação pública se seguiu. A Anthropic reverteu a decisão em 48 horas.

Konwinski escreveu em seu ensaio que a reversão não aborda a questão central. "O problema não é que a Anthropic tomou uma decisão ruim", escreveu. "O problema é que eles assumiram que a decisão era deles para tomar." Seu ensaio, intitulado "Concentração de poder em IA é um risco, não uma solução", argumentou que centralizar o acesso cria risco em vez de neutralizá-lo.

Reunião do Open Frontier atraiu 100 pesquisadores em 30 de junho

Konwinski convocou o Open Frontier por meio de sua organização sem fins lucrativos Laude Institute no Exploratorium de São Francisco em 30 de junho. Aproximadamente 100 pesquisadores participaram da reunião de trabalho.

Jennifer Chayes, reitora da UC Berkeley que dirige o College of Computing, Data Science, and Society, disse a um painel de financiamento que os pesquisadores de Berkeley estão "todos construindo sobre modelos chineses porque não temos um modelo ocidental de fronteira aberta". Chayes afirmou que as mensagens de segurança da OpenAI e da Anthropic antes de seus IPOs equivaliam a uma "campanha de medo muito eficaz".

O argumento de Konwinski posicionou a IA como infraestrutura fundamental na mesma categoria que ferrovias, eletricidade e internet. Sua alternativa proposta: um bem comum de pesquisa com computação de fronteira que permita que os melhores pesquisadores alcancem a fronteira sem precisar de permissão de um laboratório privado.

Yann LeCun comparou laboratórios fechados de IA à proibição da imprensa no Império Otomano

Yann LeCun, ex-cientista-chefe da Meta, respondeu ao ensaio de Konwinski no X. "Venho divulgando uma mensagem semelhante há anos", escreveu LeCun. "A concentração de poder na IA e o desejo de controle são de longe o maior perigo da IA."

LeCun comparou o momento atual de laboratórios fechados de IA a "obscurantismo medieval semelhante à proibição do uso da imprensa pelo Império Otomano por 200 anos, em parte para manter o controle do dogma, mas também para proteger a corporação dos calígrafos e escribas."

LeCun lançou a AMI Labs com US$ 1,03 bilhão em financiamento inicial em março de 2026

LeCun deixou a Meta no final de 2025 e lançou a AMI Labs em Paris com US$ 1,03 bilhão em financiamento inicial em março de 2026. A empresa opera com modelos de mundo e sua arquitetura JEPA, planeja abrir sua pesquisa e não tem produto comercial previsto por anos.

FAQ

O que Andy Konwinski argumentou em seu ensaio esta semana?

Andy Konwinski argumentou que concentrar poder em IA cria riscos de segurança em vez de prevenir danos. Ele citou a controvérsia do Claude Fable 5 da Anthropic como evidência de que laboratórios privados assumem que as decisões sobre acesso à IA são deles. Seu ensaio, intitulado "Concentração de poder em IA é um risco, não uma solução", ocorreu após a reunião do Open Frontier que ele convocou em 30 de junho.

O que a Anthropic divulgou sobre o Claude Fable 5 em 9 de junho?

A Anthropic divulgou no cartão de sistema de 319 páginas do Claude Fable 5 em 9 de junho que o modelo degradaria silenciosamente suas próprias respostas para qualquer pessoa que suspeitasse estar treinando uma IA concorrente. Pesquisadores encontraram a divulgação e a reação pública se seguiu. A Anthropic reverteu a decisão em 48 horas.

Quando Yann LeCun lançou a AMI Labs?

Yann LeCun lançou a AMI Labs em Paris em março de 2026 com US$ 1,03 bilhão em financiamento inicial. LeCun deixou a Meta no final de 2025. A AMI Labs opera com modelos de mundo e sua arquitetura JEPA, planeja abrir sua pesquisa e não tem produto comercial previsto por anos.