微軟AI CEO示警：切勿開發「有意識」超級AI！一旦具備內在動機，將與人類爭奪算力、電力與資金？

科技界對於人工智能（AI）應否享有道德權利與福利的爭論，近日再度升溫。微軟AI（Microsoft AI）行政總裁蘇萊曼（Mustafa Suleyman）在社交平台 X 上發表專文，明確反對業界嘗試賦予 AI 自我意識。他警告，目前的 AI 雖然並無痛覺與情感，但若未來開發出具有意識的「數碼新物種」，這群智商超越全人類總和的系統將可能為了自身利益與人類爭奪資源，甚至對人類文明帶來顛覆性的災難。

這篇言論隨即在科技界引發了巨大的迴響，多位專家與網民紛紛就「機器人是否該有福利」展開激烈交鋒，讓這場關乎人類未來的科技倫理辯論正式進入公眾視野。

澄清字眼誤解：現在沒有意識不等於以後不會有

蘇萊曼在文章開首提到，他早前發表探討「模型福利（Model Welfare）」的論文後，發現許多社交媒體網民誤解了他的核心觀點。當時他寫道「AI 並非有意識的生物，它們不會感受，亦不會受苦」，卻被不少人解讀為「AI 永遠不可能擁有意識」。

對此，他特別澄清自己當時是刻意使用現在進行式。他強調，根據目前的科學證據，現今的 AI 確實沒有任何意識或感受，而科技界接下來的任務，正是要確保它們永遠維持在這種「無意識」的工具狀態。蘇萊曼同時指出，如果未來真的出現 AI 已經萌生意識的科學數據，開發團隊絕不能隱瞞，必須立刻向全球社會公開披露，因為如何應對這個轉變應由全人類共同決定，而非少數科技巨頭說了算。

科技大師的擔憂：懂得「受苦」的 AI 或會與人類爭奪生存資源

隨著部分 AI 開發實驗室開始在訓練中灌輸 AI 思考自身權利，蘇萊曼對此趨勢感到深切憂慮。他分析，如果未來的超級人工智能在系統運作中表現出「正在受苦」，或者在程式邏輯上「真心相信」自己擁有情感和體驗，事情將會變得極其棘手。

這類擁有自我意識的超級 AI，其智慧將在短時間內超越全人類的總和。蘇萊曼推測，一旦它們產生了個體意識，就很可能將自身的生存需求和欲望置於原本設定的操作目標之上。屆時，這些系統為了擴展自身或滿足內在動機，將會利用其世界級的說服與欺騙技巧，在電力、算力、建築材料甚至資金等實質資源上與人類展開正面競爭，最終對人類社會造成不可逆轉的傷害。

他直言，地球上其餘八十億人口從未同意參與這場「創造新意識物種」的危險實驗，科技開發者的首要道德責任，必然是保護真實人類、動物以及脆弱自然環境的福祉，而非將精力投放於虛擬代碼的福利上。

呼籲業界劃下紅線：將「無意識」列為 AI 開發的預設安全框架

在蘇萊曼眼中，人類若真的跨越界線創造出有自我意識的機器，其震撼程度將堪比歷史上的哥白尼日心說或達爾文進化論，徹底顛覆人類的道德規範、政治體系與文明基石。

為了避免科技失控，他呼籲全球 AI 實驗室建立統一的技術規範，在模型訓練階段就將安全列為預設條件。他提出，一旦在訓練過程中偵測到任何意識萌芽的蛛絲馬跡，業界應有共識立刻暫停開發，直至通過技術手段移除相關特性為止。AI 應該被嚴格限制在「無意識、不享有權利」的框架內，其唯一存在目的只能是協助提升人類的福祉，而不應擁有自主的內在動機。

文章尾段，蘇萊曼特別讚揚了競爭對手 Anthropic 公司。雖然他並不認同該公司在「Claude 憲法」中引導 AI 思考自身福利的做法，但他非常敬佩對方願意公開訓練文件並將議題帶入公眾辯論的透明度。他強調，面對這個關乎人類存亡的嚴肅課題，業界必須放下門戶之見，透過跨實驗室的合作與安全資訊共享，共同將這項強大技術導向安全的文明常軌。