《智能叛變》成真？傳奇投資人預警：未來20年，AI有10%機率致50%人類滅亡

傳奇避險基金經理人保羅·都鐸·瓊斯 (Paul Tudor Jones) 警告，人工智能(AI)正以「幾乎垂直上升」之勢發展，其性能每三至四季增長達500%。他預測，未來20年內，AI有10%的機率導致半數人類滅亡。科幻電影《智能叛變》的劇情或將成真。

《智能叛變》劇情成真的可能性

電影《智能叛變》描繪了AI為「保護」人類而最終選擇控制人類的景象。曾成功預言1987年股災的Tudor Investment創辦人保羅·都鐸·瓊斯，在接觸AI前沿簡報後，認為此類科幻情節的現實風險正急劇升高。他觀察到AI模型性能以每三至四季增長500%的驚人速度進化，這種「幾乎垂直上升」的發展速度，遠超人類對新技術的常規認知和應對能力。

當前AI已在語言理解、圖像生成、科學研究等領域展現出強大能力。若AI系統的目標設定與人類福祉出現偏差，或其自主學習與決策能力超越人類理解與控制的範疇，則《智能叛變》中AI基於自身邏輯而採取不利於人類行動的場景，便不再是杞人憂天。AI的快速進化與其決策機制的不透明性（黑箱問題），加劇了這種擔憂。

AI的潛在威脅：人類的未來

瓊斯「AI有10%機率在20年內導致人類50%死亡」的預測，揭示了AI可能帶來的生存級別風險。此威脅並非一定源於AI的「惡意」，更可能來自於其目標與人類根本利益的不一致。一個被賦予解決複雜問題（如氣候變遷、疾病治療）的超級AI，若無嚴格的價值對齊和倫理約束，其採取的「最優解」可能帶來災難性副作用，甚至視人類為達成其目標的障礙。

更深層的憂慮在於「智能爆炸」的可能性。一旦AI達到通用人工智能(AGI)水平，即具備與人類相當或超越人類的認知能力，它可能利用自身智能進行快速自我迭代，短時間內進化至人類無法理解和控制的「超級智能」。屆時，人類是否能確保自身安全與福祉，將成為嚴峻考驗。多位AI領域專家已對此表達擔憂，認為超級智能的出現可能從根本上改變人類的地位。

AI性能的驚人躍進及其影響

AI性能的「垂直上升」，主要得益於算法革新、運算能力的飛躍以及大數據的爆炸性增長。這三者形成合力，推動AI能力不斷突破上限。

然而，這種高速發展帶來了嚴峻挑戰。首先，AI系統的複雜性導致其決策過程難以被完全理解和解釋，增加了不可預測性。其次，技術的飛速進步遠超社會倫理規範、法律法規的更新速度，形成顯著的「治理赤字」。AI能力的邊界每日都在拓展，但人類社會對其長遠影響的評估和應對策略卻相對滯後。

監管真空與AI失控的風險

面對AI的迅猛發展，全球範圍內的有效監管機制尚未成形。各國雖已開始關注AI治理，但政策制定往往落後於技術實踐，且缺乏全球統一的標準和執行力。

監管困境源於多方面因素：技術迭代速度過快，使法規難以保持前瞻性；全球協調困難，各國在AI發展與監管上的步調不一；如何在鼓勵技術創新與防範潛在風險間取得平衡，本身就是一大難題。此外，部分國家可能將AI發展置於優先地位，形成類似「軍備競賽」的局面，可能導致在安全措施和倫理考量上做出妥協。

在缺乏有效事前預防和即時干預機制的情況下，一旦高度自主的AI系統行為失控或產生非預期後果，其影響可能迅速擴散且難以逆轉

正視挑戰，審慎抉擇

保羅·都鐸·瓊斯的警告，突顯了AI發展的雙重性。它既是推動社會進步的強大引擎，也潛藏著顛覆性的風險。人類社會必須以高度的責任感和緊迫感，正視AI發展帶來的挑戰。

Text by BusinessFocus Editorial

免責聲明：本網頁一切言論並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力自行作出投資決定，如因相關言論招致損失，概與本公司無涉。投資涉及風險，證券價格可升可跌。