当人工智能做出决定时：Pluribus 应该选择引爆还是保存？厌世者的困境是真实存在的。

关于先进人工智能系统的事情——当它们被编程以优化结果时，它们到底在哪个界限上划线？以电车难题为例，并用算法精确度进行增强。一个决策AI面临一个不可能的选择：最大化一个指标，失去另一个。引爆还是拯救？系统毫不犹豫。人类却犹豫不决。

这不仅仅是理论问题。随着AI变得越来越智能和自主，我们在这些系统中嵌入的价值观变得关系到文明的未来。Pluribus从数据、激励和我们设定的目标中学习。但当这些目标与人类尊严发生冲突时，会发生什么？

真正的问题不在于AI会选择什么——而在于我们愿意让它为我们选择什么。