Google Bard智能叛變自學孟加拉語寫文引用假書籍 CEO：我也不完全了解

By Valerie on 19 Apr 2023

Digital Editor

AI聊天機器人去年年底面世後大熱，甚至開發出最新一代能力極強的GPT-4，科技巨頭Google也不甘示弱，推出能24小時吸收最新資訊的聊天機器人Bard，勝過資料庫只停留在2021年以前的ChatGPT，不過近日Bard被發現可自學新語言，強大學習能力逐漸無法掌控，谷歌行政總裁Sundar Pichai亦透露自己「其實也不完全了解」其運作方式。

《每日郵報》報道，谷歌研發團隊發現，Bard在接觸對它來説是新語種的孟加拉語後，未經訓練自主學會這門語言。對此行政總裁Sundar Pichai在接受媒體採訪時承認，他並不完全了解Bard是如何運作的，Bard出現自學的情形被形容為其「突現屬性」（emergent properties），在AI科技界亦被稱為「黑盒」（Black box），意指AI跳脫程序自學無法預料的技能，而人類則須要時間去深入了解背後的原因。

One AI program spoke in a foreign language it was never trained to know. This mysterious behavior, called emergent properties, has been happening – where AI unexpectedly teaches itself a new skill. https://t.co/v9enOVgpXT pic.twitter.com/BwqYchQBuk

— 60 Minutes (@60Minutes) April 16, 2023

當被質疑在不完全清楚的情況下，還是選擇將Bard放入社會時，披猜巧妙回答，「我們對人類大腦思想如何運作也不了解。」

據悉，這並不是Bard首次出現類似情況，它曾撰寫過一篇關於通貨膨脹的論文，其中便引用了根本不存在的5本書，而業界將此現象稱之為「幻覺」（hallucination）。

Photo from CBSN

同時Sundar Pichai透露，自己正因Bard的快速發展而「睡不着覺」，直言谷歌正在努力以安全的方式部署Bard，但現下研究團隊也未找出其「突變」的原因。此外披猜認為，社會目前還未能承擔AI的快速發展，為避免潛在風險須實施良好且強而有力的監管，並警告企業不要被捲入競爭態勢中。

《華爾街見聞》報道，生命未來研究所（Future of Life）此前發布了一份《暫停大型人工智能研究》的公開信，要求各方立即暫停GPT-4以上的AI系統訓練長達6個月，稱其「對社會和人類構成潛在風險」，早前特斯拉創辦人馬斯克（Elon Musk）及上千名科技界巨頭均已簽署，不過他昨日透露將開發名為「TruthGPT」的聊天機器人，並聲稱旨在理解宇宙的「TruthGPT」不會消滅人類，看似是為了與ChatGPT硬碰硬而不惜無視自己不久前簽下的公開信。