Ngoại trưởng Anh Yvette Cooper cảnh báo rằng các chính phủ cần có các thỏa thuận toàn cầu để quản lý rủi ro trí tuệ nhân tạo. Trong một bài báo đăng hôm thứ Hai, Cooper so sánh thách thức này với những nỗ lực an toàn hạt nhân sau Thế chiến II, tuyên bố rằng các chính phủ có nguy cơ lặp lại những sai lầm trong buổi bình minh của kỷ nguyên hạt nhân nếu họ chờ đợi để tạo ra luật AI. Cooper gọi vấn đề này có khả năng là "thách thức an ninh lớn nhất của thập kỷ tới" và kêu gọi hợp tác giữa Mỹ, Trung Quốc và các cường quốc AI khác về các tiêu chuẩn an toàn. Cảnh báo của bà diễn ra sau Hội nghị thượng đỉnh An toàn AI 2023 tại Bletchley Park và những lo ngại ngày càng gia tăng gần đây về năng lực an ninh mạng AI.
Cooper so sánh thách thức quản trị AI với cuộc chạy đua vũ khí hạt nhân
Cooper viết rằng AI mang lại những đột phá nhưng cũng đặt ra những rủi ro mới khi công nghệ trở nên mạnh mẽ hơn và phổ biến hơn. "Tháng trước, tại Thâm Quyến, Trung Quốc, tôi đã thấy triển vọng phi thường của AI và robot được sử dụng trong chăm sóc sức khỏe cứu sống," Cooper tuyên bố. "Nhưng những công nghệ tương tự cũng đang định hình lại tương lai của chiến tranh, tội phạm và sự gắn kết xã hội theo những cách đáng báo động."
Cooper so sánh cuộc chạy đua phát triển hệ thống AI hiện tại với cuộc chạy đua vũ khí hạt nhân ban đầu, lưu ý rằng các thỏa thuận an toàn toàn cầu chỉ xuất hiện sau khi các quốc gia chứng kiến sự tàn phá do vũ khí nguyên tử gây ra. "Về hạt nhân, thỏa thuận quốc tế chỉ đến sau khi thế giới thấy sức mạnh đáng sợ của công nghệ mới tại Hiroshima," Cooper viết. "Chúng ta không thể đợi một sự kiện tương đương AI của Hiroshima trước khi hành động."
Cooper kêu gọi Anh sử dụng ảnh hưởng ngoại giao của mình để tập hợp Mỹ, Trung Quốc và các cường quốc AI lớn khác nhằm thiết lập các nguyên tắc và tiêu chuẩn an toàn chung. Bà chỉ ra Hội nghị thượng đỉnh An toàn AI 2023 tại Bletchley Park, nơi các nhà lãnh đạo từ 29 quốc gia và Liên minh châu Âu đã gặp nhau để thảo luận về rủi ro mới nổi của AI, gọi đây là ví dụ về khả năng của Vương quốc Anh trong việc "tập hợp thế giới về an ninh AI."
Các sự cố an ninh AI gần đây thúc đẩy phản ứng chính sách
Cảnh báo của Cooper diễn ra sau nhiều tháng lo ngại gia tăng về cách các chính phủ nên giám sát các hệ thống AI ngày càng mạnh mẽ. Vào tháng Năm, Viện An ninh AI của Anh cảnh báo về những tiến bộ nhanh chóng trong khả năng an ninh mạng AI sau khi GPT-5.5 của OpenAI trở thành mô hình thứ hai hoàn thành một cuộc tấn công mạng mô phỏng mà không cần sự trợ giúp của con người, sau Claude Mythos Preview của Anthropic.
Vài ngày sau, Quỹ Tiền tệ Quốc tế cảnh báo rằng AI có thể "khuếch đại" các cuộc tấn công mạng vào hệ thống tài chính toàn cầu bằng cách giảm kỹ năng cần thiết để khai thác lỗ hổng, kêu gọi các nhà hoạch định chính sách coi an ninh mạng là vấn đề ổn định tài chính thay vì vấn đề kỹ thuật thuần túy.
Vào tháng Sáu, Tổng thống Donald Trump đã ký một sắc lệnh hành pháp tạo ra khuôn khổ tự nguyện để xem xét các mô hình AI tiên tiến trước khi phát hành, mở rộng các chương trình an ninh mạng AI và chỉ đạo các cơ quan đánh giá rủi ro an ninh quốc gia tiềm ẩn từ các mô hình AI tiên phong.
Cùng tháng đó, CEO của Anthropic, Dario Amodei, lập luận rằng các yêu cầu về minh bạch không còn đủ nữa và kêu gọi kiểm tra bắt buộc của bên thứ ba đối với các mô hình tiên phong. Yêu cầu này được tiếp nối bởi chính phủ Mỹ yêu cầu Anthropic hạn chế quyền truy cập vào Claude Fable 5 và Mythos 5 vì lo ngại an ninh quốc gia trước khi dỡ bỏ lệnh vào tháng Bảy.
FAQ
Ngoại trưởng Anh Yvette Cooper đã cảnh báo điều gì về quản trị AI?
Ngoại trưởng Anh Yvette Cooper cảnh báo rằng các chính phủ cần có các thỏa thuận toàn cầu để quản lý rủi ro AI trước khi một cuộc khủng hoảng buộc phải hành động. Trong một bài báo đăng hôm thứ Hai, bà tuyên bố rằng quản lý rủi ro AI có thể trở thành "thách thức an ninh lớn nhất của thập kỷ tới" và so sánh tình hình với cuộc chạy đua vũ khí hạt nhân, nơi các thỏa thuận quốc tế chỉ đến sau khi chứng kiến sự tàn phá tại Hiroshima.
Cooper đã kêu gọi hợp tác quốc tế nào về an toàn AI?
Cooper kêu gọi Anh sử dụng ảnh hưởng ngoại giao của mình để tập hợp Mỹ, Trung Quốc và các cường quốc AI lớn khác nhằm thiết lập các nguyên tắc và tiêu chuẩn an toàn chung. Bà chỉ ra Hội nghị thượng đỉnh An toàn AI 2023 tại Bletchley Park, nơi các nhà lãnh đạo từ 29 quốc gia và Liên minh châu Âu đã gặp nhau để thảo luận về rủi ro AI, như một ví dụ về khả năng của Vương quốc Anh trong việc tập hợp hợp tác toàn cầu về an ninh AI.
Những diễn biến an ninh AI gần đây nào đã xảy ra trước cảnh báo của Cooper?
Vào tháng Năm, Viện An ninh AI của Anh cảnh báo về những tiến bộ nhanh chóng trong khả năng an ninh mạng AI sau khi GPT-5.5 của OpenAI hoàn thành một cuộc tấn công mạng mô phỏng mà không cần sự trợ giúp của con người. Quỹ Tiền tệ Quốc tế cảnh báo rằng AI có thể khuếch đại các cuộc tấn công mạng vào hệ thống tài chính toàn cầu. Vào tháng Sáu, Tổng thống Donald Trump đã ký một sắc lệnh hành pháp tạo ra khuôn khổ để xem xét các mô hình AI tiên tiến, và chính phủ Mỹ đã yêu cầu Anthropic hạn chế quyền truy cập vào một số mô hình vì lo ngại an ninh quốc gia trước khi dỡ bỏ lệnh vào tháng Bảy.
