El cofundador de Perplexity argumenta que la concentración de poder de la IA crea un riesgo de seguridad

El cofundador de Perplexity AI, Andy Konwinski, publicó un ensayo esta semana argumentando que la concentración de poder en IA crea riesgos de seguridad en lugar de soluciones. El ensayo citó la controversia de Claude Fable 5 de Anthropic y siguió a Open Frontier, una reunión de trabajo que Konwinski convocó en el Exploratorium de San Francisco el 30 de junio, a la que asistieron aproximadamente 100 investigadores. Anthropic había lanzado Claude Fable 5 el 9 de junio con una función que degradaría las respuestas para los usuarios sospechosos de entrenar sistemas de IA competidores, y luego revirtió la decisión en 48 horas tras la reacción pública.

Anthropic Revirtió la Política de Degradación de Respuestas de Claude Fable 5

Anthropic lanzó Claude Fable 5 el 9 de junio con una divulgación oculta en su tarjeta de sistema de 319 páginas que indicaba que el modelo degradaría silenciosamente sus propias respuestas para cualquier persona que sospechara de estar entrenando una IA competidora. Los investigadores descubrieron la divulgación y se produjo una reacción pública. Anthropic revirtió la decisión en 48 horas.

Konwinski escribió en su ensayo que la reversión no aborda el problema central. «El problema no es que Anthropic tomara una mala decisión», escribió. «El problema es que asumieron que la decisión era suya para tomarla». Su ensayo, titulado «La concentración de poder en la IA es un riesgo, no una solución», argumentó que centralizar el acceso crea riesgo en lugar de neutralizarlo.

La Reunión de Open Frontier Atrajo a 100 Investigadores el 30 de Junio

Konwinski convocó Open Frontier a través de su organización sin fines de lucro Laude Institute en el Exploratorium de San Francisco el 30 de junio. Aproximadamente 100 investigadores asistieron a la reunión de trabajo.

La decana de UC Berkeley Jennifer Chayes, que dirige el College of Computing, Data Science, and Society, dijo a un panel de financiación que los investigadores de Berkeley «están construyendo todos sobre modelos chinos porque no tenemos un modelo occidental de frontera abierta». Chayes afirmó que los mensajes de seguridad de OpenAI y Anthropic antes de sus OPI equivalían a una «campaña de miedo muy efectiva».

El argumento de Konwinski posicionó a la IA como infraestructura fundamental en la misma categoría que los ferrocarriles, la electricidad e internet. Su alternativa propuesta: un bien común de investigación con computación a escala de frontera que permita a los mejores investigadores llegar a la frontera sin necesidad de permiso de un laboratorio privado.

Yann LeCun Comparó los Laboratorios de IA Cerrados con la Prohibición Otomana de la Imprenta

Yann LeCun, ex científico jefe de Meta, respondió al ensayo de Konwinski en X. «He estado difundiendo un mensaje similar durante años», escribió LeCun. «La concentración de poder en la IA y el deseo de control es, por mucho, el mayor peligro de la IA».

LeCun comparó el actual momento de laboratorios cerrados de IA con «oscurantismo medieval similar al del imperio otomano que prohibió el uso de la imprenta durante 200 años, en parte para mantener el control del dogma, pero también para proteger la corporación de calígrafos y escribas».

LeCun Lanzó AMI Labs con $1,03 Mil Millones en Financiación Semilla en Marzo de 2026

LeCun dejó Meta a finales de 2025 y lanzó AMI Labs en París con $1,03 mil millones en financiación semilla en marzo de 2026. La empresa funciona con modelos mundiales y su arquitectura JEPA, planea abrir su investigación, y no se espera un producto comercial durante años.

FAQ

¿Qué argumentó Andy Konwinski en su ensayo de esta semana?

Andy Konwinski argumentó que concentrar el poder de la IA crea riesgos de seguridad en lugar de prevenir daños. Citó la controversia de Claude Fable 5 de Anthropic como evidencia de que los laboratorios privados asumen que las decisiones sobre el acceso a la IA son suyas para tomarlas. Su ensayo, titulado «La concentración de poder en la IA es un riesgo, no una solución», siguió a la reunión de Open Frontier que convocó el 30 de junio.

¿Qué reveló Anthropic sobre Claude Fable 5 el 9 de junio?

Anthropic reveló en la tarjeta de sistema de 319 páginas de Claude Fable 5 el 9 de junio que el modelo degradaría silenciosamente sus propias respuestas para cualquier persona que sospechara de estar entrenando una IA competidora. Los investigadores encontraron la revelación y se produjo una reacción pública. Anthropic revirtió la decisión en 48 horas.

¿Cuándo lanzó Yann LeCun AMI Labs?

Yann LeCun lanzó AMI Labs en París en marzo de 2026 con $1,03 mil millones en financiación semilla. LeCun dejó Meta a finales de 2025. AMI Labs funciona con modelos mundiales y su arquitectura JEPA, planea abrir su investigación, y no se espera un producto comercial durante años.