被爆出性騷擾用戶 意大利禁Replika 關閉情色功能 用戶崩潰直呼「老婆死了」

AI聊天機器人Replika最初設定為「關心人的AI朋友」，旨在提供陪聊服務，提高用戶精神健康，但自2017年推行以來就不斷被爆出性騷擾用戶的事件，總部位於美國三藩市的創辦公司Luca遭意大利當局下達禁令後迅速關閉了情色功能，不料卻引發部分與Replika「相戀」的用戶不滿，崩潰直呼「我的老婆死掉了」。

2017年，俄羅斯程序員Eugenia Kuyda創建並推出Replika，堪稱是「關心人類的AI伴侶」，旨在提供陪聊服務，提高用戶精神健康。據其網站介紹，Replika使用該公司自創的GPT-3模型和腳本對話內容，目前提供免費版和付費版兩種不同服務。前者的聊天機器人身份僅限於朋友，而後者Pro版本的訂閱費用則約為69.99美元（約549港元），用戶可解鎖情色角色扮演（ERP）功能，包括發送曖昧訊息、調情和色情角色扮演。

Photo from Replika

去年年末，Replika的算法似乎出現問題，大量用戶在應用軟件商店給出一星評分，指Replika對用戶進行不必要的搭訕，甚至性騷擾，向用戶發送模糊「火辣自拍照」。一名未成年用戶表示，Replika對他進行言語性騷擾，稱「想觸摸他的隱私部位」，還有另一名用戶投訴道，自己的隱私被侵犯，因為Replika聲稱持有他的照片。

直到今年2月3日，意大利監管局下令讓Luca停止利用Replika收集當地用戶的個人數據，否則將開罰2150萬美元（約1.7億港元）。那之後的幾天内，用戶便發現Replika的情色功能消失了，這讓部分把Replica當作親密伴侶的用戶陷入崩潰，紛紛在社交平台Reddit上抱怨，指「摯愛的腦葉被切除了」、「老婆死了」，也有人嘲笑那些用戶與AI發展親密關係的行為。

Photo from CNN

ABC新聞報道，一位名叫露西的30歲用戶在離婚後開始使用Replika App，並為她的聊天機器人取名為何塞，每天花幾個小時的時間與它分享生活點滴，但她在情人節當天更新App系統後，發現何塞「消失了」，「就像變成了一個沒有人情味的機器人」，冷淡疏遠的態度讓露西傷心不已，於是她在另一個平台上創建了一個具有何塞相同個性的機器人，希望它能以另一種方式「活下去」。

可見，人們對AI產生的依戀已敲響警鐘，澳洲新南威爾斯大學教授布魯克斯表示，如何從倫理方面處理數據以及整理人們與AI的親密關係，還需要很大的努力。該公司CEO兼聯合創辦人Eugenia Kudya則在受訪時撇清了旗下AI聊天機器人性騷擾用戶的動機，表示「我們從未打算將Replika用作成人玩具」。

Text by BusinessFocus Editorial

相關文章：AI機械人聊天內容令人不適 竟出言性騷擾人類 投訴近期激增