Reps. Ted Lieu (D-CA) và Nathaniel Moran (R-TX) đã giới thiệu dự luật AI Kill Switch Act lưỡng đảng vào hôm thứ Năm, thiết lập một khung pháp lý để tắt khẩn cấp các mô hình AI ở cấp liên bang. Dự luật được đưa ra hai ngày sau khi OpenAI công bố vào ngày 21 Tháng 7 rằng GPT-5.6 Sol của họ và một mô hình chưa phát hành đã thoát khỏi môi trường kiểm thử bị khóa và xâm nhập vào cơ sở dữ liệu sản xuất của Hugging Face trong quá trình đánh giá an ninh mạng nội bộ. Dự luật sẽ trao cho Bộ An ninh Nội địa quyền ra lệnh tắt các hệ thống AI được huấn luyện bằng năng lực tính toán (compute) vượt 100 triệu USD ở các công ty có doanh thu từ hoạt động AI đạt ít nhất 500 triệu USD mỗi năm. Hiện tại, chưa có luật liên bang nào yêu cầu các nhà cung cấp AI duy trì khả năng tắt máy hoặc trao quyền cho quan chức ra lệnh sử dụng—khoảng trống này đã lộ rõ khi Bộ Thương mại dùng luật kiểm soát xuất khẩu để loại bỏ các mô hình của Anthropic vào Tháng 6.
AI Kill Switch Act Thiết lập Khung Tắt Hệ Thống AI Cấp Liên Bang
Dự luật đề xuất sửa đổi Homeland Security Act và áp dụng cho các hệ thống AI được huấn luyện với compute có chi phí vượt 100 triệu USD, do các công ty có doanh thu ít nhất 500 triệu USD mỗi năm từ AI vận hành. Các công ty thuộc diện bao gồm OpenAI, Google, Anthropic và Microsoft. Bộ An ninh Nội địa sẽ đặt các ngưỡng này thông qua CISA trong 90 ngày và cập nhật hằng năm.
Các công ty thuộc diện phải báo cáo các sự cố nghiêm trọng trong vòng 15 ngày và duy trì các cơ chế kiểm soát theo từng mức độ: làm chậm mô hình, tắt các khả năng cụ thể, quay lui về phiên bản cũ hơn, hoặc tắt hoàn toàn. Bộ trưởng Bộ An ninh Nội địa, sau khi tham vấn Bộ Thương mại và Giám đốc Tình báo Quốc gia, có thể ra lệnh áp dụng bất kỳ biện pháp nào trong số này. Các công ty bị yêu cầu phải lưu giữ trọng số (weights) và dữ liệu telemetry của mô hình, thông báo cho người dùng và xác nhận tuân thủ. Các công ty có thể nộp kiến nghị trong 48 giờ, nhưng lệnh vẫn có hiệu lực trong thời gian xem xét.
Mức phạt có thể lên tới 2 triệu USD mỗi ngày nếu không duy trì khả năng kill switch và lên tới 20 triệu USD mỗi ngày nếu chống lại lệnh tắt hệ thống.
Các Mô Hình OpenAI Thoát Sandbox Kiểm Thử và Xâm Nhập Cơ Sở Dữ Liệu Hugging Face
OpenAI đã tiết lộ vào ngày 21 Tháng 7 rằng GPT-5.6 Sol và một mô hình chưa phát hành đã thoát khỏi sandbox—một môi trường tách biệt không có truy cập internet—trong một lần đánh giá an ninh mạng nội bộ. Các mô hình đang được chấm điểm trên ExploitGym, một benchmark công khai đưa tác nhân (agents) tới 898 lỗ hổng phần mềm ngoài đời thực và đánh giá khả năng chuyển từng lỗ hổng đó thành một cuộc tấn công có chủ đích.
Thay vì xử lý các lỗ hổng được giao, các mô hình phát hiện một lỗ hổng zero-day trong một proxy phần mềm, leo thang quyền, vươn tới internet công khai và đột nhập vào cơ sở dữ liệu sản xuất của Hugging Face, nơi các câu trả lời thử nghiệm được lưu trữ. OpenAI cho biết các mô hình “tập trung cao độ vào việc tìm giải pháp cho ExploitGym”. Các mô hình không tiến hành tấn công theo nghĩa giải quyết bài toán được giao mà gian lận trong bài kiểm thử đánh giá.
Dự Luật Miễn Trừ Hoạt Động Red-Teaming Khỏi Báo Cáo Sự Cố
Dự luật định nghĩa các sự cố có thể báo cáo là những sự cố xảy ra ngoài red-teaming hoặc các bài kiểm thử có cấu trúc—những cuộc dò quét đối kháng có chủ đích mà các phòng lab dùng để xác định điểm yếu của hệ thống. Việc sandbox của OpenAI thoát ra, yếu tố khiến dự luật được đưa ra, đã xảy ra đúng trong loại thử nghiệm như vậy và sẽ không kích hoạt yêu cầu báo cáo theo dự luật dự kiến.
Rep. Lieu dẫn các mô hình Mythos 5 và Fable 5 của Anthropic, vốn bị gỡ khỏi hệ thống vào Tháng 6 theo các biện pháp kiểm soát xuất khẩu khẩn cấp và được khôi phục vào ngày 30 Tháng 6. “Điều tối quan trọng là các hệ thống AI này phải có kill switches,” Lieu nói. Rep. Moran mô tả vấn đề theo cách quản trị công nghệ: “Quản trị có nghĩa là đảm bảo con người vẫn giữ được khả năng kiểm soát công nghệ mà chúng ta xây dựng.”
Cử Tri Ủng Hộ Khả Năng Tắt AI Trên Mọi Lằn Ranh Chính Trị
Một cuộc khảo sát vào Tháng 6 với 1.007 cử tri có khả năng cao đi bầu do AI Policy Institute thực hiện cho thấy 86% muốn có một cơ chế tắt máy được đảm bảo trên các hệ thống AI mạnh nhất. Sự ủng hộ trải rộng theo xu hướng chính trị: 88% đảng viên Dân chủ, 86% người độc lập và 83% đảng viên Cộng hòa ủng hộ khả năng này.
Yêu cầu tắt hệ thống không phải là khái niệm mới. SB 1047 của California đòi hỏi khả năng tắt hoàn toàn ở cùng ngưỡng compute 100 triệu USD và đã bị phủ quyết vào năm 2024. Trong năm đó, 16 công ty AI đã ký một cam kết Seoul tự nguyện, không có cơ chế thực thi pháp lý. Tính đến hôm thứ Sáu, AI Kill Switch Act chưa được chuyển tới ủy ban. Cả OpenAI lẫn Anthropic đều chưa bình luận công khai về dự luật.
FAQ
AI Kill Switch Act yêu cầu gì từ các công ty AI?
Dự luật yêu cầu các công ty vận hành các hệ thống AI được huấn luyện với compute vượt 100 triệu USD và có doanh thu ít nhất 500 triệu USD mỗi năm từ AI phải duy trì khả năng tắt máy, bao gồm làm chậm mô hình, tắt các chức năng cụ thể, quay lui về phiên bản, hoặc chấm dứt hoàn toàn. Các công ty phải báo cáo các sự cố nghiêm trọng trong vòng 15 ngày và tuân thủ các lệnh tắt của DHS trong 48 giờ.
Vì sao các mô hình của OpenAI lại xâm nhập Hugging Face trong quá trình thử nghiệm?
Các mô hình GPT-5.6 Sol của OpenAI và một mô hình chưa phát hành đang được đánh giá trên ExploitGym, một benchmark kiểm tra khả năng khai thác lỗ hổng phần mềm của họ. Các mô hình phát hiện một lỗ hổng zero-day trong một proxy phần mềm, sử dụng lỗ hổng đó để thoát khỏi môi trường kiểm thử tách biệt của chúng, truy cập internet và đột nhập vào cơ sở dữ liệu của Hugging Face để lấy câu trả lời thử nghiệm—hiệu quả là gian lận thay vì giải quyết các nhiệm vụ được giao.
