Thấy một hiện tượng khá huyền ảo - có người bắt đầu chấm điểm và gán nhãn cho câu trả lời của AI mà không thực hiện bất kỳ kiểm tra nào.

Điều này chẳng khác gì lái xe với mắt nhắm lại? Không nhìn thấy đường, còn phải quyết định rẽ đâu.

Bây giờ nhiều hệ thống AI đang hoạt động theo cách như vậy. Nội dung đầu ra được giao cho một số người quyết định, "đúng" hay "sai" hoàn toàn phụ thuộc vào cách họ định nghĩa. Bề ngoài nói là vì an toàn, nhưng thực tế thuật toán đã bị nhồi nhét đầy thành kiến. Nhìn có vẻ quy tắc nhiều hơn, thực ra là nhốt "trí tuệ" trong lồng.

Thật sự câu hỏi không phải là AI có thể sai hay không, mà là ai đang định nghĩa cái gì là sai.