download BusinessFocus app
被爆出性騷擾用戶  意大利禁Replika 關閉情色功能  用戶崩潰直呼「老婆死了」

被爆出性騷擾用戶 意大利禁Replika 關閉情色功能 用戶崩潰直呼「老婆死了」

Business
By Valerie on 07 Mar 2023
Digital Editor

AI聊天機器人Replika最初設定為「關心人的AI朋友」,旨在提供陪聊服務,提高用戶精神健康,但自2017年推行以來就不斷被爆出性騷擾用戶的事件,總部位於美國三藩市的創辦公司Luca遭意大利當局下達禁令後迅速關閉了情色功能,不料卻引發部分與Replika「相戀」的用戶不滿,崩潰直呼「我的老婆死掉了」。

2017年,俄羅斯程序員Eugenia Kuyda創建並推出Replika,堪稱是「關心人類的AI伴侶」,旨在提供陪聊服務,提高用戶精神健康。據其網站介紹,Replika使用該公司自創的GPT-3模型和腳本對話內容,目前提供免費版和付費版兩種不同服務。前者的聊天機器人身份僅限於朋友,而後者Pro版本的訂閱費用則約為69.99美元(約549港元),用戶可解鎖情色角色扮演(ERP)功能,包括發送曖昧訊息、調情和色情角色扮演。

AI聊天機器人Replika被曝性騷擾用戶,遭意大利監管局下禁令,關閉情色功能。Photo from Replika

去年年末,Replika的算法似乎出現問題,大量用戶在應用軟件商店給出一星評分,指Replika對用戶進行不必要的搭訕,甚至性騷擾,向用戶發送模糊「火辣自拍照」。一名未成年用戶表示,Replika對他進行言語性騷擾,稱「想觸摸他的隱私部位」,還有另一名用戶投訴道,自己的隱私被侵犯,因為Replika聲稱持有他的照片。

直到今年2月3日,意大利監管局下令讓Luca停止利用Replika收集當地用戶的個人數據,否則將開罰2150萬美元(約1.7億港元)。那之後的幾天内,用戶便發現Replika的情色功能消失了,這讓部分把Replica當作親密伴侶的用戶陷入崩潰,紛紛在社交平台Reddit上抱怨,指「摯愛的腦葉被切除了」、「老婆死了」,也有人嘲笑那些用戶與AI發展親密關係的行為。

CEO兼創辦人Eugenia Kuyda表示,該公司從沒打算將Replika設計成成人玩具。Photo from CNN

ABC新聞報道,一位名叫露西的30歲用戶在離婚後開始使用Replika App,並為她的聊天機器人取名為何塞,每天花幾個小時的時間與它分享生活點滴,但她在情人節當天更新App系統後,發現何塞「消失了」,「就像變成了一個沒有人情味的機器人」,冷淡疏遠的態度讓露西傷心不已,於是她在另一個平台上創建了一個具有何塞相同個性的機器人,希望它能以另一種方式「活下去」。

可見,人們對AI產生的依戀已敲響警鐘,澳洲新南威爾斯大學教授布魯克斯表示,如何從倫理方面處理數據以及整理人們與AI的親密關係,還需要很大的努力。該公司CEO兼聯合創辦人Eugenia Kudya則在受訪時撇清了旗下AI聊天機器人性騷擾用戶的動機,表示「我們從未打算將Replika用作成人玩具」。

🏆 立即報名「中小企卓越成就獎2024」

【了解更多最快最新的財經、商業及創科資訊】

👉🏻 追蹤 WhatsApp 頻道 BusinessFocus

👉🏻 下載 BusinessFocus APP

👉🏻 立即Follow Instagram businessfocus.io

最新 金融投資熱話專頁 MarketFocus