圖靈獎得主楊立昆：讓AI平台安全良善實用的唯一方法是開源

來源：澎湃新聞

記者張靜

·“有一些人因為害怕人工智能的結果，整體上就希望人工智能受到嚴格監管。因為他們說，如果任何人都能掌握人工智能，如果他們可以用人工智能做任何想做的事，那麼情況可能會非常危險，所以需要嚴格監管人工智能。我完全不同意這種說法。”

人類花了很長時間才建立起當下的倫理和治理機制。如果允許人工智能形成像人類一樣的意識和智慧，人類該如何滿足倫理和治理的要求？人類對人工智能的干預機制是什麼？

7月6日，2023世界人工智能大會在上海開幕。 2018年圖靈獎得主、Meta AI基礎人工智能研究院團隊首席人工智能科學家楊立昆（Yann LeCun）在開幕式上表示，他完全不同意“因為任何人可用人工智能做任何事，情況可能會非常危險，所以需要嚴格監管人工智能”的說法。從長遠來看，使人工智能平台安全、良善、實用的唯一方法就是開源。

楊立昆談到了人工智能變得智能、可控的方法。 “如果你認為達到人類水平的人工智能的方法是做更大的自回歸LLM（大語言模型），然後利用多模型數據測試，那麼你可能會認為，這些人工智能係統不安全。但事實上我不認為這個系統可以非常智能，我認為它們變得智能的方法也是讓它們變得可控的方法，即目標驅動人工智能的理念。本質上來說，就是給它們必須滿足的目標。”楊立昆表示，這些目標有些是由任務定義的目標，比如係統回答問題了嗎？系統開動你的車了嗎？系統清理餐桌了嗎？其他目標則充當安全護欄，比如不要傷害任何人。

楊立昆認為這些人工智能係統不會通過一點一滴的滲透來欺騙或支配人類。人類可以設定迫使人工智能誠實的目標，例如迫使人工智能屈從於人類的目標，要小心那些想讓它們好奇的目標，小心讓它們接觸到它們不應該擁有的資源。 “所以我認為這些系統將是完全可控可操縱的。系統可以被設計得安全，但這並不容易。設計這些目標，讓系統安全，將會是一個艱鉅的工程挑戰。”

但楊立昆表示，人類不必一開始就把它設計得很好，而是可以先從建立像老鼠一樣聰明的系統開始，人類的目標是讓它成為一隻好老鼠。 “我們會把它們放進沙盒或仿真環境中測試，我們要確保它們是安全的，這是很重要的問題，因為有一些人因為害怕人工智能的結果，整體上就希望人工智能受到嚴格監管。因為他們說，如果任何人都能掌握人工智能，如果他們可以用人工智能做任何想做的事，那麼情況可能會非常危險，所以需要嚴格監管人工智能。我完全不同意這種說法。”

相反，楊立昆認為，從長遠來看，使人工智能平台安全、良善、實用的唯一方法就是開源。未來每個人都通過人工智能助手與數字世界互動，人類所有信息都要通過這個人工智能助手，如果技術被少數公司控制，這不是一件好事。 “未來人工智能係統將成為人類所有知識的寶庫，訓練它們的方式需要基於眾多來源。因此我們將在未來看到更多的開源LLM和更多的開源人工智能係統。”