El Secretario de Relaciones Exteriores del Reino Unido advierte que los gobiernos necesitan acuerdos globales de IA

La secretaria de Relaciones Exteriores del Reino Unido, Yvette Cooper, advirtió que los gobiernos necesitan acuerdos globales para gestionar los riesgos de la inteligencia artificial. En un artículo publicado el lunes, Cooper comparó el desafío con los esfuerzos de seguridad nuclear que siguieron a la Segunda Guerra Mundial, afirmando que los gobiernos corren el riesgo de repetir los errores cometidos durante los albores de la era nuclear si esperan para crear leyes de IA. Cooper calificó el problema como potencialmente «el mayor desafío de seguridad de la próxima década» e instó a la cooperación entre Estados Unidos, China y otras potencias de IA en estándares de seguridad. Su advertencia sigue a la Cumbre de Seguridad de IA de 2023 en Bletchley Park y las recientes crecientes preocupaciones sobre las capacidades de ciberseguridad de la IA.

Cooper compara el desafío de la gobernanza de la IA con la carrera armamentista nuclear

Cooper escribió que la IA ofrece avances pero también presenta nuevos riesgos a medida que la tecnología se vuelve más potente y ampliamente disponible. «El mes pasado, en Shenzhen, China, vi la extraordinaria promesa de la IA y la robótica utilizadas para la atención médica que salva vidas», declaró Cooper. «Pero las mismas tecnologías también están reconfigurando el futuro de la guerra, el crimen y la cohesión social de manera alarmante».

Cooper comparó la actual carrera por desarrollar sistemas de IA con la primera carrera armamentista nuclear, señalando que los acuerdos globales de seguridad surgieron solo después de que los países presenciaron la devastación causada por las armas atómicas. «En materia nuclear, el acuerdo internacional llegó solo después de que el mundo vio el aterrador poder de la nueva tecnología en Hiroshima», escribió Cooper. «No podemos permitirnos esperar un equivalente de la IA de Hiroshima antes de actuar».

Cooper instó a Gran Bretaña a utilizar su influencia diplomática para reunir a Estados Unidos, China y otras grandes potencias de IA con el fin de establecer principios y estándares de seguridad compartidos. Señaló la Cumbre de Seguridad de IA de 2023 en Bletchley Park, donde líderes mundiales de 29 países y la Unión Europea se reunieron para discutir el riesgo emergente de la IA, calificando esto como un ejemplo de la capacidad del Reino Unido para «movilizar al mundo en materia de seguridad de la IA».

Incidentes recientes de seguridad de IA impulsan respuesta política

La advertencia de Cooper llega después de meses de crecientes preocupaciones sobre cómo los gobiernos deberían supervisar sistemas de IA cada vez más potentes. En mayo, el Instituto de Seguridad de IA del Reino Unido advirtió que se produjeron rápidos avances en las capacidades de ciberseguridad de la IA después de que OpenAI GPT-5.5 se convirtiera en el segundo modelo en completar un ciberataque simulado sin asistencia humana, después de Anthropic Claude Mythos Preview.

Días después, el Fondo Monetario Internacional advirtió que la IA podría «amplificar» los ciberataques contra el sistema financiero mundial al reducir la habilidad necesaria para explotar vulnerabilidades, instando a los responsables políticos a tratar la ciberseguridad como un problema de estabilidad financiera y no como un problema puramente técnico.

En junio, el presidente Donald Trump firmó una orden ejecutiva que crea un marco voluntario para revisar modelos avanzados de IA antes de su lanzamiento, expandir los programas de ciberseguridad de IA y dirigir a las agencias a evaluar los posibles riesgos de seguridad nacional de los modelos de IA fronterizos.

Ese mismo mes, el CEO de Anthropic, Dario Amodei, argumentó que los requisitos de transparencia ya no son suficientes y pidió pruebas obligatorias de terceros para los modelos fronterizos. Esta demanda fue seguida por el gobierno de EE. UU. ordenando a Anthropic restringir el acceso a Claude Fable 5 y Mythos 5 por preocupaciones de seguridad nacional, antes de levantar la orden en julio.

Preguntas frecuentes

¿Qué advirtió la secretaria de Relaciones Exteriores del Reino Unido, Yvette Cooper, sobre la gobernanza de la IA?

La secretaria de Relaciones Exteriores del Reino Unido, Yvette Cooper, advirtió que los gobiernos necesitan acuerdos globales para gestionar los riesgos de la IA antes de que una crisis obligue a actuar. En un artículo publicado el lunes, afirmó que gestionar los riesgos de la IA podría convertirse en «el mayor desafío de seguridad de la próxima década» y comparó la situación con la carrera armamentista nuclear, donde los acuerdos internacionales llegaron solo después de presenciar la devastación en Hiroshima.

¿Qué cooperación internacional pidió Cooper sobre la seguridad de la IA?

Cooper instó a Gran Bretaña a utilizar su influencia diplomática para reunir a Estados Unidos, China y otras grandes potencias de IA con el fin de establecer principios y estándares de seguridad compartidos. Señaló la Cumbre de Seguridad de IA de 2023 en Bletchley Park, donde líderes de 29 países y la Unión Europea se reunieron para discutir los riesgos de la IA, como un ejemplo de la capacidad del Reino Unido para movilizar la cooperación global en seguridad de la IA.

¿Qué desarrollos recientes de seguridad de IA ocurrieron antes de la advertencia de Cooper?

En mayo, el Instituto de Seguridad de IA del Reino Unido advirtió sobre rápidos avances en las capacidades de ciberseguridad de la IA después de que OpenAI GPT-5.5 completara un ciberataque simulado sin asistencia humana. El Fondo Monetario Internacional advirtió que la IA podría amplificar los ciberataques contra el sistema financiero mundial. En junio, el presidente Donald Trump firmó una orden ejecutiva que crea un marco para revisar modelos avanzados de IA, y el gobierno de EE. UU. ordenó a Anthropic restringir el acceso a ciertos modelos por preocupaciones de seguridad nacional antes de levantar la orden en julio.