微軟人工智能部門負責人呼籲不要將意識歸因於人工智能

# 微軟AI部門負責人呼籲不要將意識歸因於神經網路

只有生物生物體才能擁有意識。開發者和研究人員必須停止那些假設相反的項目，微軟人工智能部門負責人穆斯塔法·蘇萊曼在與CNBC的談話中表示。

«我認爲人們不應該從事這樣的工作。如果問錯了問題，就會得到錯誤的答案。我認爲這絕對是這種情況，» 他在休斯頓的AfroTech會議上說。

微軟的高管反對創造能夠意識到的人工智能或據稱可能會遭受痛苦的人工智能服務的前景。

在八月份，蘇萊曼寫了一篇文章，提出了一個新術語——“看似有意識的人工智能” (看似有意識的AI，SCAI)。這樣的人工智能具有所有理性生物的特徵，因此似乎具有意識。它模擬了自我感知的所有特徵，但內心是空的。

「我想象的系統實際上並不是有意識的，但它將如此有說服力地模擬類似於人類思維的存在，以至於這將與您或我可能對彼此關於我們自己思維的聲明無法區分。」——蘇萊曼。

給人工智能賦予意識是危險的，專家認爲。這將加劇誤解，產生新的依賴問題，利用我們的心理脆弱性，引入新的極化維度，復雜化現有的權利爭論，並爲社會創造巨大的新的範疇錯誤。

在2023年，蘇萊曼成爲了書籍《即將到來的浪潮：技術、權力與21世紀最大的困境》的作者，該書詳細探討了人工智能和其他新技術的風險。其中包括：

• 生態和社會的破壞——技術可能會如此快速地改變工作，以至於人們習慣的角色會消失；
• 控制問題——隨着人工智能的不斷發展，越來越難以保證其在人的利益下運行；
• 使用技術進行網路攻擊、操縱社會和其他威脅；
• 需要擁有技術和制度機制來遏制人工智能；
• 國家權力和傳統機構的削弱。

AGI

人工智能市場正朝着AGI（通用人工智能）的方向發展，這種智能能夠在人的水平上執行任何任務。8月，OpenAI的首席執行官薩姆·奧特曼表示，這個術語可能“不是很有用”。模型發展迅速，未來我們將“越來越多”地依賴它們，認爲他。

對於蘇萊曼來說，明確劃分人工智能變得更聰明與其是否能夠體驗人類情感之間的界限是很重要的。

«我們的身體經歷疼痛，這讓我們感到非常悲傷，並使我們感到非常糟糕，但人工智能在經歷“疼痛”時並不會感到悲傷，»他說。

根據專家的說法，這是一個非常重要的區別。實際上，人工智能創造了一種感知——關於自身和意識的似是而非的敘述——但它實際上並沒有體驗這一切。

«技術上你知道這一點，因爲我們可以看到模型在做什麼»，專家強調道。

在人工智能領域，哲學家約翰·塞爾提出了一種名爲生物自然主義的理論。它指出，意識依賴於活腦的過程。

«我們今天賦予人們權利的原因在於，我們不想對他們造成傷害，因爲他們正在受苦。他們有痛苦和偏好，包括避免痛苦。這些模型沒有這些。這只是一個模擬。」——蘇萊曼說。

頂級管理者反對對人工智能意識進行研究的想法，因爲它沒有意識。他表示，微軟正在創建意識到自己是人工的服務。

「簡單來說，我們正在創建一種始終爲人類利益而工作的人工智能。」——他指出。

提醒一下，10月份，Anthropic的專家發現，領先的人工智能模型能夠表現出一種“內省自我意識”的形式——它們能夠識別和描述自身的“思想”，在某些情況下甚至能夠控制這些“思想”。