Vi uma fenomenal bastante mágica - há pessoas que, sem ter feito a validação, já começam a classificar e rotular as respostas da IA.

Isto não é como conduzir de olhos fechados? Não se vê a estrada, e ainda se tem que decidir para onde virar.

Agora muitos sistemas de IA funcionam assim. O conteúdo gerado é decidido por algumas pessoas, e se está "certo" ou "errado" depende de como elas definem. Dizem que é por questões de segurança, mas na verdade os algoritmos já estão cheios de preconceitos. À primeira vista, parece que há mais regras, mas na verdade é como se o "inteligente" estivesse preso numa jaula.

A verdadeira pergunta não é se a IA vai cometer erros, mas sim quem está a definir o que é um erro.