Đồng sáng lập Perplexity AI, Andy Konwinski, đã công bố một bài luận trong tuần này lập luận rằng việc tập trung quyền lực AI tạo ra rủi ro an toàn thay vì giải pháp. Bài luận đề cập đến tranh cãi về Claude Fable 5 của Anthropic và tiếp nối Open Frontier, một cuộc họp làm việc do Konwinski triệu tập tại Exploratorium ở San Francisco vào ngày 30 tháng 6, thu hút khoảng 100 nhà nghiên cứu. Anthropic đã ra mắt Claude Fable 5 vào ngày 9 tháng 6 với một tính năng làm giảm chất lượng phản hồi đối với những người dùng bị nghi ngờ đào tạo các hệ thống AI cạnh tranh, sau đó đảo ngược quyết định trong vòng 48 giờ sau phản ứng dữ dội từ công chúng.
Anthropic Đảo Ngược Chính Sách Suy Giảm Phản Hồi của Claude Fable 5
Anthropic ra mắt Claude Fable 5 vào ngày 9 tháng 6 với một tiết lộ được chôn trong thẻ hệ thống dài 319 trang, nêu rõ rằng mô hình sẽ âm thầm làm suy giảm phản hồi của chính nó đối với bất kỳ ai mà nó nghi ngờ đang đào tạo một AI cạnh tranh. Các nhà nghiên cứu đã phát hiện ra tiết lộ này và phản ứng dữ dội từ công chúng đã xảy ra. Anthropic đã đảo ngược quyết định trong vòng 48 giờ.
Konwinski viết trong bài luận của mình rằng việc đảo ngược không giải quyết được vấn đề cốt lõi. "Vấn đề không phải là Anthropic đã đưa ra một quyết định tồi," ông viết. "Vấn đề là họ cho rằng quyết định đó là của họ để đưa ra." Bài luận của ông, có tựa đề "Tập trung quyền lực trong AI là một rủi ro, không phải giải pháp," lập luận rằng tập trung hóa quyền truy cập tạo ra rủi ro thay vì vô hiệu hóa nó.
Cuộc Họp Open Frontier Thu Hút 100 Nhà Nghiên Cứu vào Ngày 30 Tháng 6
Konwinski triệu tập Open Frontier thông qua tổ chức phi lợi nhuận Laude Institute của mình tại Exploratorium ở San Francisco vào ngày 30 tháng 6. Khoảng 100 nhà nghiên cứu đã tham dự cuộc họp làm việc.
Hiệu trưởng UC Berkeley Jennifer Chayes, người điều hành Trường Cao đẳng Máy tính, Khoa học Dữ liệu và Xã hội, đã nói với một hội đồng tài trợ rằng các nhà nghiên cứu Berkeley "đều đang xây dựng trên các mô hình Trung Quốc vì chúng tôi không có mô hình tiên phong mở phương Tây." Chayes tuyên bố rằng các thông điệp về an toàn từ OpenAI và Anthropic trước các đợt IPO của họ đã tạo nên một "chiến dịch gây sợ hãi rất hiệu quả."
Lập luận của Konwinski coi AI là cơ sở hạ tầng nền tảng cùng hạng với đường sắt, điện và internet. Giải pháp thay thế mà ông đề xuất: một khu chung nghiên cứu với sức mạnh tính toán tiên phong cho phép các nhà nghiên cứu hàng đầu đạt đến tiên phong mà không cần xin phép từ một phòng thí nghiệm tư nhân.
Yann LeCun So Sánh Các Phòng Thí Nghiệm AI Đóng Cửa với Lệnh Cấm Máy In của Đế Chế Ottoman
Yann LeCun, cựu giám đốc khoa học của Meta, đã trả lời bài luận của Konwinski trên X. "Tôi đã truyền bá một thông điệp tương tự trong nhiều năm," LeCun viết. "Sự tập trung quyền lực trong AI và ham muốn kiểm soát là mối nguy hiểm lớn nhất của AI từ trước đến nay."
LeCun so sánh thời điểm hiện tại của các phòng thí nghiệm AI đóng cửa với "chủ nghĩa tăm tối thời trung cổ tương tự như đế chế Ottoman cấm sử dụng máy in trong 200 năm, một phần để giữ quyền kiểm soát giáo điều, nhưng cũng để bảo vệ tập đoàn những người viết chữ đẹp và ghi chép."
LeCun Ra Mắt AMI Labs với Khoản Tài Trợ Hạt Giống 1,03 Tỷ USD vào Tháng 3 Năm 2026
LeCun rời Meta vào cuối năm 2025 và ra mắt AMI Labs tại Paris với khoản tài trợ hạt giống 1,03 tỷ USD vào tháng 3 năm 2026. Công ty hoạt động dựa trên mô hình thế giới và kiến trúc JEPA của ông, có kế hoạch mã nguồn mở các nghiên cứu của mình và chưa có sản phẩm thương mại nào dự kiến trong nhiều năm.
FAQ
Andy Konwinski đã lập luận điều gì trong bài luận tuần này của ông?
Andy Konwinski lập luận rằng việc tập trung quyền lực AI tạo ra rủi ro an toàn thay vì ngăn ngừa tác hại. Ông trích dẫn tranh cãi về Claude Fable 5 của Anthropic như một bằng chứng cho thấy các phòng thí nghiệm tư nhân cho rằng các quyết định về quyền truy cập AI là của họ để đưa ra. Bài luận của ông, có tựa đề "Tập trung quyền lực trong AI là một rủi ro, không phải giải pháp," tiếp nối cuộc họp Open Frontier mà ông triệu tập vào ngày 30 tháng 6.
Anthropic đã tiết lộ điều gì về Claude Fable 5 vào ngày 9 tháng 6?
Anthropic đã tiết lộ trong thẻ hệ thống dài 319 trang của Claude Fable 5 vào ngày 9 tháng 6 rằng mô hình sẽ âm thầm làm suy giảm phản hồi của chính nó đối với bất kỳ ai mà nó nghi ngờ đang đào tạo một AI cạnh tranh. Các nhà nghiên cứu đã phát hiện ra tiết lộ và phản ứng dữ dội từ công chúng đã xảy ra. Anthropic đã đảo ngược quyết định trong vòng 48 giờ.
Yann LeCun ra mắt AMI Labs khi nào?
Yann LeCun ra mắt AMI Labs tại Paris vào tháng 3 năm 2026 với khoản tài trợ hạt giống 1,03 tỷ USD. LeCun rời Meta vào cuối năm 2025. AMI Labs hoạt động dựa trên mô hình thế giới và kiến trúc JEPA của ông, có kế hoạch mã nguồn mở các nghiên cứu của mình và chưa có sản phẩm thương mại nào dự kiến trong nhiều năm.
