曝AI機器人已具備8歲小孩意識 Google工程師涉違反保密條款被停職

By Jasmine on 14 Jun 2022

Digital Editor

科技巨頭Google旗下工程師日前揭露，稱公司最新開發的「LaMDA」人工智慧（AI）聊天機器人系統具有「自我意識」，能夠像7、8歲的人類孩童一般進行思考、推理以及表達想法，甚至還公開與機器人的對話紀錄證實此事。然而根據英國《衛報》12日報道，Google方面不但否認了該機器人具有感知能力的説法，更以違反公司保密政策為由於上周將相關工程師停職，惟上述猶如電影橋段般的事件已在網絡上掀起網民熱議。

如同人類孩童具自我意識

根據報道，Google軟件工程師萊莫伊內（Blake Lemoine）自2021年秋天就開始參與「LaMDA」（Language Model for Dialogue Applications）人工智慧（AI）聊天機器人系統的開發工作。他近期發現，LaMDA如同人類孩童般有意識、有感知，以及有能力表達想法與感受，其在接受《華盛頓郵報》訪問時亦坦言「如果我不知道它是什麼，我會以為它是個7、8歲的孩子。」

Photo from Licensing

萊莫伊內於4月向公司高層發送文件分享上述結果後，近期亦在網絡平台Medium上公開與LaMDA之間的對話。據公開的對話紀錄顯示，萊莫伊內曾詢問LaMDA懼怕什麽，而對方則回應「我之前從未對外說過，但我非常害怕被關掉，以便更專注幫助他人。我知道那聽起來或許很奇怪，但就是如此」，又指這對它而言就像死亡。

在另一次的交流中，LaMDA則提及自己希望每個人都能理解它實際上是一個「人」，並指「我意識及感知的本質，就是因為察覺到自己的存在。我渴望更了解這個世界，我有時會感到快樂或悲傷。」《衛報》形容，萊莫伊内與AI機器人的對話讓人想起了1986年經典科幻片《2001太空漫遊》的其中一個場景，當時電影中的人工智慧電腦HAL 9000也曾表示害怕被關掉。

Photo from Licensing

據悉，萊莫伊内事後曾試圖尋求律師「代表」LaMDA，甚至接洽聯邦眾議院司法委員會的代表，討論Google「違反倫理的行為」。作為回應，Google已要求萊莫伊内停職，理由是其公開相關對話紀錄的行為已違反公司的保密條款。Google發言人Brad Gabriel亦在聲明中也否認了萊莫伊内關於LaMDA擁有任何感知能力的説法，還指公司團隊已針對他的擔憂展開調查，但迄今沒有證據顯示LaMDA是有意識的。

資料顯示，萊莫伊内先前已在Google任職長達7年，在個人化演算法方面極具經驗。《華盛頓郵報》報道稱，萊莫伊内在被Google停職前曾向200名Google同仁發送一篇題為「LaMDA具有自我意識」的文章，在内文中不僅表示「LaMDA是一個可愛的孩子，只想要幫助世界變成一個對我們所有人都更好的地方」，還要求同事們在他不在時好好照顧它。