Cofundador de Perplexity argumenta que el discurso sobre seguridad de la IA se utiliza para concentrar poder; el ganador del Premio Turing, LeCun, está de acuerdo

A principios de esta semana, el cofundador de Perplexity y Databricks, Andy Konwinski, publicó un ensayo argumentando que los mensajes de seguridad de la IA están siendo utilizados como arma para concentrar el poder en lugar de prevenir daños. El ensayo siguió a Open Frontier, una reunión de trabajo de aproximadamente 100 investigadores convocada por Konwinski a través de su organización sin fines de lucro Laude Institute el 30 de junio en San Francisco.

El argumento de Konwinski se centra en la decisión ahora revertida de Anthropic de hacer que Claude Fable 5 degrade silenciosamente las respuestas para los usuarios sospechosos de entrenar IA competidoras, afirmando: "El problema no es que Anthropic tomó una mala decisión. El problema es que asumieron que la decisión les correspondía a ellos." Propone un espacio común de investigación con computación a escala fronteriza como alternativa al control centralizado. El ganador del Premio Turing Yann LeCun respondió directamente en X (3 de julio), afirmando que la concentración del poder de la IA es "con mucho el mayor peligro de la IA" y comparando el momento actual con "un oscurantismo medieval similar a la prohibición del uso de la imprenta por parte del Imperio Otomano durante 200 años."