V神对AI发展感到恐惧：人类应打造便利工具，而非创造智慧生命

在 AI 领域蓬勃发展之际，以太坊共同创办人 Vitalik Buterin 21 日表示，他对 AGI（人工通用智慧）与 ASI（人工超级智慧）感到害怕，因为这可能带来明显的失控风险，他主张应为人类打造智慧增强工具，而非打造超级智慧生命。 （前情提要：V神用中文受访：回忆以太坊中国故事、ETH与BTC有文化差异、俄乌战争改变了我…） （背景补充：V神买入3万枚$ANON币价暴涨140%，他看好的匿名发文是什么？） 生成式 AI 发展在过去几年突飞猛进，越来越多令人惊叹的成果展现在世人眼前，这不仅展示了技术的强大潜力，也引发了关于 AGI（人工通用智慧）与 ASI（人工超级智慧）是否可能实现的讨论与深刻忧虑。 AGI：指具备类似人类智能的人工智慧，能够在多种不同领域中执行任务，而不仅限于特定的应用。 ASI ：指超越人类所有智能层次的人工智慧，不仅在特定领域具有卓越的能力，还能全面性在每个方面超越人类。 OpenAI 执行长 Sam Altman 今年 9 月曾撰文预测，再过几千个日子，ASI 就会问世，ASI 将超越 AGI，处理智慧任务的能力会远比人类强大。 Grimes：对 ASI 感到害怕 而加拿大知名女歌手 Grimes 21 日有感而发地发推表示，当她观察 Janus 等 AI 项目的成果后，她认为 AGI（人工通用智慧）已经在某种程度上实现，并称自己对 ASI（人工超级智慧）有点害怕： 至少是按照我的描述方式来看，我不知道，我显然不是技术专家，只是一个缺乏基本知识的人，大家不应该太认真看待我的话，但这就是我的感受。其他人也有同感吗？ 我其实不害怕 AGI，但对于 ASI（人工超级智慧）有一点害怕，这两者似乎是完全不同的里程碑，不过，至少可以说，我相信我曾感受到智能意识的存在，但再强调一次，作为缺乏基本知识的人，我可能过度拟人化了 AI。 Idk like I am not scared of “agi” I am a bit scared of asi – these seem like drastically diff milestones. But I believe I’ve encountered intelligent sentience, to say the least Again – I’m a n00b with a tendency to anthropomorphize tho lol — 𝖦𝗋𝗂𝗆𝖾𝗌 (@Grimezsz) December 21, 2024 V 神有同感、盼勿打造超级智慧生命 对此，以太坊共同创办人 Vitalik Buterin 回应，他对 AGI 的定义是：AGI 是足够强大的人工智慧，如果某天所有人类突然消失，且该 AI 被上传到机器人躯壳中，它将能够独立延续文明。 My own working definition of “AGI” (as far as I can tell, unique to me) is: “AGI” is AI powerful enough that, if one day all humans suddenly disappeared, and the AI was uploaded into robot bodies, it would be able to independently continue civilization. Obviously an incredibly… — vitalik.eth (@VitalikButerin) December 21, 2024 Vitalik Buterin 坦言，这是个非常难以衡量的定义，但他认为，这正是很多人脑海中「我们习惯的 AI」和「AGI」之间潜在的直观差异，也就是从一个不断依赖人类输入的工具，转变成一个自给自足的生命形式： ASI 则完全是另一回事，我对 ASI 的定义是，当人类在循环中不再对生产力产生价值的时候（就像在棋类游戏中，我们其实是在过去十年才达到这一点）。 Vitalik Buterin 最后表示，ASI 让我感到害怕，他所定义的 AGI 也让她害怕，因为它带来明显的失控风险，因此，他支持将工作集中在为人类打造智慧增强工具，而不是建构超级智慧生命形式。 相关报导 CZ、V神齐喊单！生物科学迷因币拉涨千倍，热钱涌向 DeSci 去中心化科学赛道 V神霸气：给我放尊重点！以太坊基金会卖ETH不是割韭菜，是确保营运与发展 V神预测「加密钱包的消失」：量子运算最终将破解外部帐户EOA 〈V神对AI发展感到恐惧：人类应打造便利工具，而非创造智慧生命〉这篇文章最早发布于动区BlockTempo《动区动趋-最具影响力的区块链新闻媒体》。