He visto un fenómeno bastante mágico: hay personas que, sin haber realizado la verificación, ya comienzan a calificar y etiquetar las respuestas de la IA.

¿No es como conducir con los ojos cerrados? No se puede ver el camino, y aún hay que decidir hacia dónde girar.

Ahora muchos sistemas de IA funcionan así. El contenido de salida depende de algunas personas que deciden qué es "correcto" o "incorrecto" según su propia definición. Se dice que es por seguridad, pero en realidad el algoritmo ya está lleno de prejuicios. Parece que hay más reglas, pero en realidad se está encerrando la "inteligencia" en una jaula.

Lo que realmente se debe preguntar no es si la IA cometerá errores, sino quién define lo que se considera un error.