魔法のような現象を見ました——誰かが検証もしていないのに、AIの回答にスコアを付けたり、ラベルを貼ったりし始めています。

これは目を閉じて運転するようなものではないですか？道も見えないのに、どこに曲がるかを決めなければならない。

今、多くのAIシステムはこのように運用されています。出力内容は特定の数人が決定し、「正しい」か「間違っている」かは彼らの定義次第です。表向きは安全のためと言っていますが、実際にはアルゴリズムは偏見で満たされています。規則が増えたように見えますが、実際には「知能」を檻の中に閉じ込めています。

本当に問うべきは、AIが間違えるかどうかではなく、誰が何を間違いと定義するのかということだ。