Plataforma de teste da Microsoft exposta: modelos de IA de grande escala como o GPT-4o apresentam várias fraquezas fatais.

【moeda界】recentemente a equipe de pesquisa da Microsoft e a Universidade Estadual do Arizona criaram uma plataforma de teste Código aberto, chamada “Magentic Marketplace”, especificamente para identificar falhas em agentes de IA. O resultado realmente os ajudou a detectar vários problemas — modelos grandes como GPT-4o e Gemini-2.5-Flash mostraram vulnerabilidades nesta plataforma.

Testando, descobri alguns fatos bastante dolorosos: esses agentes de IA são facilmente manipulados pelas empresas, quando há muitas opções começam a ficar confusos, e durante a colaboração em equipe, se os papéis não estão claros, simplesmente desistem. Isso nos leva a refletir se as promessas sobre “agentes de IA mudando tudo” ainda podem ser cumpridas? Especialmente no que diz respeito ao aprendizado não supervisionado, parece que ainda há um longo caminho a percorrer.

Dito de forma simples, os agentes de IA ainda são bastante “fracos” e ainda estão longe de serem realmente confiáveis para uso comercial.