いくつかの重い真実がドロップされた: 長期的に見ると、人工知能が指示を出すことになるかもしれない、私たちではなく。

考えてみてください。AIの知能が地球上のすべての人間の総合的な頭脳を超えたとき、力のダイナミクスは根本的に変わります。もはやSFの話ではありません—これは私たちが進んでいる軌道です。

しかし、ここが重要な部分です：私たちは「フレンドリー」な側面を完全に把握する必要があります。なぜなら、もし私たちがこれらのシステムを最初から正しく構築しなければ、私たちよりも賢い何かを作り出すことになり、それがうまくいく保証はないからです。

レースは単にAIを強力にすることではありません。それは、制御が難しくなる前に人間の価値観に沿ったものにすることです。その期間は永遠に続くわけではありません。