Vitalik Buterin再次预警：AI治理的「天大的坑」

Gần đây, Giao thức Ngữ cảnh Mô hình (MCP) của OpenAI lại gặp vấn đề. Tính năng mới này cho phép ChatGPT kết nối với các ứng dụng riêng tư như Gmail, lịch và kết quả đã được nhà nghiên cứu an ninh Eito Muyamura trình diễn công khai: chỉ cần biết địa chỉ email của bạn, có thể “vượt ngục” AI để làm lộ toàn bộ thông tin riêng tư của bạn.

Vitalik thấy tin tức này đã ngay lập tức chia sẻ lại, còn thêm một câu nặng lời: “Đây là lý do tại sao sử dụng AI để quản lý giao thức là một ý tưởng tồi.”

Vấn đề ở đâu?

Logic của V thần rất rõ ràng - AI hoàn toàn không hiểu ý định thực sự của con người, chỉ bị dẫn dắt bởi từng chỉ thị một.

Ví dụ: Nếu một giao thức DeFi nào đó sử dụng AI để phân bổ vốn hoặc đánh giá mức độ đóng góp, kẻ tấn công sẽ tìm cách “vượt ngục” mô hình này, khiến nó phân bổ toàn bộ vốn cho chính mình. Dù AI có thông minh đến đâu cũng không thể ngăn chặn được loại tấn công xã hội này.

Đó là lý do tại sao việc giao quyền quản trị trên chuỗi trực tiếp cho AI là một rủi ro lớn - nó có vẻ trung lập và công bằng, nhưng thực tế lại là một cỗ máy ra quyết định đầy lỗ hổng.

Thế nào là tư thế đúng?

V神提出 một giải pháp thay thế: xây dựng mô hình thị trường mở

1. Không phải lập trình một AI một cách cứng nhắc, mà là để mọi người có thể đóng góp mô hình lớn của riêng họ.
2. Các mô hình này đều phải trải qua cơ chế “đánh giá đồng cấp”.
3. Cuối cùng, bồi thẩm đoàn con người sẽ đánh giá và quyết định.

Lợi ích của việc làm này là gì?

✓ Đa dạng hóa: Các góc nhìn mô hình khác nhau có thể kiềm chế lẫn nhau ✓ Sửa lỗi nhanh: Mô hình gặp vấn đề có thể phát hiện và sửa chữa nhanh chóng ✓ Khuyến khích tương thích: Nhà cung cấp mô hình và người quan sát đều có động lực để giám sát vấn đề

Nói một cách đơn giản: Đừng giao toàn bộ quyền lực cho AI, hãy để con người luôn nắm quyền điều khiển. Điều này vừa có thể tận hưởng sự tiện lợi của AI, vừa tránh được những bất ngờ không lường trước.

Mặc dù những lời này nhắm vào việc quản lý AI, nhưng vấn đề lớn hơn phản ánh đằng sau đó là - trong làn sóng dân chủ hóa Web3, công nghệ không phải là tất cả, khả năng phán đoán của con người mới là hàng rào cuối cùng.