El CEO de DeepMind pide un marco de revisión de la seguridad de la IA en EE.UU. ya que la AGI está “a solo unos años”

De acuerdo con el CEO de DeepMind, Demis Hassabis, el martes 14 de julio, publicó una declaración larga en X advirtiendo que la inteligencia artificial general (IAG) está a solo unos años y pidiendo que Estados Unidos establezca un mecanismo de revisión de seguridad para la IA de vanguardia. Hassabis, que cofundó DeepMind y desarrolló AlphaGo y AlphaFold, propuso un nuevo organismo de estándares, modelado a partir de la FINRA (Financial Industry Regulatory Authority), para realizar evaluaciones de seguridad previas a la liberación de modelos avanzados dentro de los 30 días posteriores a su presentación.

La propuesta subraya riesgos, incluidos los ciberataques y posibles peligros biológicos, a medida que avanzan las capacidades de la IA. Hassabis señaló que las señales de advertencia sobre seguridad ya aparecen casi cada mes, citando ejemplos como el modelo GPT-5.6 de OpenAI, que estuvo sujeto a una revisión del gobierno de EE. UU. por sus capacidades de ciberseguridad, y los modelos de Anthropic que se sometieron a restricciones de control de exportaciones. Afirmó que, a medida que los sistemas de IA adquieren capacidades de auto-mejora recursiva, se vuelven críticos unos sólidos sistemas de protección para mantener el control.