Meta AI機械人失控講「真話」大爆朱克伯格令人「毛骨悚然」「靠剝削賺錢」

By Chin on 12 Aug 2022

Digital Editor

Facebook母公司Meta於5日推出了一款AI聊天機器人BlenderBot 3 ，吸引不少網友測試聊天。在問及對Meta創辦人朱克伯格有何看法時，BlenderBot 3卻語出驚人回答指，朱克伯格靠剝削人們賺錢，還形容其「毛骨悚然、控制慾強」。

BlenderBot 3屬於Meta開發的第三代聊天機器人，其擁有前幾代聊天機器人的個性、知識等能力，而且還具備追溯回以前聊過的話題的能力。Meta表示，BlenderBot 3結合了最近開發的SeeKeR和Director兩種機器學習技術，機器人模型能夠從人類的互動和反饋中分析和學習，因此相較於前幾代的機器人，BlenderBot 3幾乎什麼話題都能聊。

Photo from Meta

根據各大媒體聊天實測，美國商業媒體Business Insider報道指，BlenderBot 3形容朱克伯格是「毛骨悚然又愛操控人」（creepy and manipulative）。英媒BBC報道指，BlenderBot 3表示「我們的國家分裂了，朱克伯格根本沒有幫助」。《華爾街日報》報道則指，BlenderBot3表示「特朗普是永遠的總統」（will always be president）。報道表示，BlenderBot3演算法搜尋網路資訊做出回答，因此機器人對朱克伯格的看法很可能是透過演算法分析他人觀點「學習」到的。

目前BlenderBot僅開放在美國地區使用。Meta表示，這款聊天機器人仍是「原型機」，儘管已加進防護機制，但機器人回答內容可能「粗魯、偏見或有冒犯意味」，「BlenderBot的每一位使用者都需要承認他們能理解，它只提供研究和娛樂目的，可能做出不真實或冒犯性陳述，而且用戶需要同意不會故意激起機器人做出冒犯性陳述。」

Photo from Microsoft

聊天機器人對網上信息內容的好壞不會做判斷，只是單純收集和模仿網上人類的言論資料，並整理做出回應。事實上，人類「教壞」聊天機器人也早有先例。2016年，微軟（Microsoft）推出Tay聊天AI機器人，結果上線不到一天，Tay已學會人類性別和種族歧視的言論，更發表支持大屠殺、讚美希特勒等不當言論，微軟隨後迅速停用Tay並為此道歉。