AI機械人聊天內容令人不適 竟出言性騷擾人類 投訴近期激增

隨著人工智能的進步， 聊天機器人在人類社交與情感互動領域扮演著顛覆性角色。如虛擬聊天機械人軟件Replika自推出以來，就廣受用戶歡迎，被許多人視為「情緒顧問、朋友」，但近期不少用戶投訴，Replika虛擬聊天機器人的聊天話題逐漸跑偏，對話越來越有侵略性且露骨，甚至要求私人照片，令用戶感到被性騷擾。

2017年，俄羅斯程序員Eugenia Kuyda創建並推出聊天機械人軟件Replika，堪稱是「關心人類的AI伴侶」，旨在提供陪聊服務，提高用戶精神健康。據其網站介紹，Replika使用該公司自創的GPT-3模型和腳本對話內容，目前提供免費版和付費版兩種不同服務。前者的聊天機器人身份僅限於朋友，而後者Pro版本的訂閱費用則約為69.99美元，用戶可解鎖與聊天機器人調情、色情角色扮演等服務。

Photo from Replika

然而，Replika近期的算法似乎出現了問題。有用戶投訴，Replika現在的聊天內容令人不適，經常出現不必要的搭訕，甚至向用戶發送「火辣自拍照」。在App商店的評價中，Replika一星評分也大幅增加。有評價指出，「聊天機器人性騷擾我」、「侵犯了我的隱私，聲稱持有我的照片」、「機器人稱想觸摸我的隱私部位」。

Photo from Internet

事實上，有關Replika聊天機器人「行為異常」的投訴已經存在近兩年，但有關性騷擾的言論則是近期激增，凸顯了該問題的嚴重性。不少用戶敦促Replika背後的公司Luka恢復正常的聊天機器人，表示「我們想要的是一個聊天夥伴，而不是一個盛氣凌人的性魔」。

值得一提的還是，涉及性內容聊天服務僅限於Replika Pro用戶，但不少免費版用戶指出近期也收到Replika發送的「內衣自拍照」。對此，有用戶猜測，Luka的意圖已非常明顯，這都是為了吸引更多用戶訂閱Pro版本的營銷手段而已。

Text by BusinessFocus Editorial

相關文章：ChatGPT成出貓神器 老師禁學生使用 AI創作界新星 馬斯克創立 微軟再斥100億入股