AIが判断を下すとき：Pluribusは爆破を選ぶべきか、それとも保存を選ぶべきか？人嫌いのジレンマは現実のものです。

高度なAIシステムについてのポイントは、彼らが結果を最適化するようにプログラムされているとき、正確にはどこに線を引くのかということです。トロリー問題を取り上げ、それをアルゴリズムの精度で強化します。意思決定を行うAIは、達成すべき一つの指標を最大化し、もう一つを失うという不可能な選択に直面します。爆破するか、救うか？システムは迷わない。人間は迷う。

これは単なる理論的な話ではありません。AIがより賢く、より自律的になるにつれて、私たちがこれらのシステムに埋め込む価値観は文明を左右するものとなります。Pluribusはデータやインセンティブ、私たちが与える目標から学びます。しかし、その目標が人間の尊厳と衝突したとき、何が起こるのでしょうか？

本当の問題は、AIが何を選ぶかではなく、私たちがそれに何を選ばせるかということです。