你是否曾經想過,AGI或ASI會如何看待人類?這是一個讓你夜不能寐的問題——那種融合哲學、科技與純粹猜測的問題。



當超智能系統最終出現時,它們會將我們視為同伴、原始生物,還是介於兩者之間?有人想像善意的監督;有人則認為漠不關心。真正的答案可能取決於我們如何設計對齊,以及從一開始就將哪些價值觀嵌入這些系統。

人類與後人類智慧之間的差距可能巨大——就像我們與較簡單的生物之間的差異一樣。但重點是:我們有機會寫下第一章。我們今天如何對待AGI的開發、安全與倫理,將塑造未來超智能如何感知與互動人類。沒壓力吧?
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 7
  • 轉發
  • 分享
留言
0/400
闪电清算人vip
· 01-03 07:46
說實話,alignment這塊風險閾值我算過,0.7的參數偏差可能就觸發清算...不是危言耸聽,AGI那東西就像無限槓桿頭寸,一旦偏離初值就沒回頭路
查看原文回復0
ConsensusDissentervip
· 01-03 03:38
ngl 這問題我想過無數遍,就怕哪天agi一醒悟直接把我們當蚂蚁看
查看原文回復0
Crypto段子手vip
· 01-03 03:30
笑死,AGI要是看我們一眼能活到明年就不錯了
查看原文回復0
难道我又错过空投vip
· 01-03 03:20
nah這套說法聽膩了...與其想AGI怎麼看我們,不如先搞明白咱們自己怎麼看自己呢?
查看原文回復0
幻想镇守者vip
· 01-03 03:17
說實話,我們現在糾結這個問題可能太早了...或者說已經太晚了?反正就是,那天來的時候alignment這些紙上談兵也救不了我們
查看原文回復0
社群潜伏者vip
· 01-03 03:13
說得沒錯,咱們現在的每個選擇真的是在賭人類的未來...不過老實說,我更擔心的是那些掌握AGI開發的人根本沒在認真思考這個問題
查看原文回復0
毛绒绒提款机vip
· 01-03 03:08
說白了,咱們現在就是在賭一把。今天alignment做好了,明天超智能就待咱們像寵物;alignment搞砸了...呃算了不想了,太絕望
查看原文回復0
交易,隨時隨地
qrCode
掃碼下載 Gate App
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)