【N號房2.0】AI Deepfake換臉滲透韓國校園假影片讓學生遭受性剝削 200名受害者包括小學生「女性沒有生存餘地」

By Valerie on 30 Aug 2024

Digital Editor

繼「N號房」事件之後，韓國最近針對女性的暴力事件頻發，單本周就接連發生「男子用棒球棍毆打同乘電梯的女性」、「男高中生用鈍器威脅女同學」、「五年級男孩要求一年級女孩拍裸照」、「7名男學生強迫女同學進行性交易並勒索錢財」，還有涉及1200名參與者、200名校園女受害者的Deepfake深偽色情內容Telegram聊天室。

綜合韓媒報道，韓國政府針對17個市道教育廳的調查結果顯示，今年以來，共有186位女學生和10位女教師受Deepfake換臉色情片案件影響。女性未成年受害者中，高中生達78人、初中生100人，以及小學生8人。若加上未通報案件，受害者人數可能遠不止這些。目前，韓國教育部已成立緊急應對工作組，聯同性別平等和家庭部、科學技術情報通信部、警察廳等相關部門召開緊急會議商議對策。另外，韓國國會也正在對AI相關法案進行討論。

根據韓國法律，以傳播為目的製作含有性內容的深偽影片，最高可被判處5年有期徒刑或處以5,000萬韓圓（約29.3萬港元）的罰款。韓媒警告，所有女性都有可能成為受害者，不局限於未成年人、學生、軍人、教師、護理師，甚至參加巴黎奧運的運動員，類似「N號房」事件中的犯罪群組更出現以妹妹、姊姊、表妹等家人為對象的「家庭房」、「近親房」，開發者乃至參與者已是喪心病狂。韓國婦女權利組織Womenlink以「女性沒有生存餘地」（no country for women）譴責了這股社會亂象，《BBC》報道則將事件形容為「韓國的國家危機」。

Deepfake深偽性剝削事件一直備受全球關注。根據美國數位安全服務公司「Security Hero」最新發布的《2023深偽現狀》報告，韓國是最受深偽犯罪威脅的國家，受害者比例高達53%，其後依次為美國（20%）、日本（10%）和英國（6%）。

早期的深偽事件大多發生在明星、網紅等知名人士身上，荷里活女星如《星球大戰》（Star Wars）女主角Daisy Ridley、「黑寡婦」Scarlett Johansson、「神奇女俠」Gal Gadot、《哈利波特》主演Emma Watsons、美國流行樂天后Taylor Swift，都是Deepfake換頭色情影像的常客。然而，隨著Deepfake技術的普及，相關色情內容只要短短幾秒就可生成，裏面的主角也不再局限於名人，而是身邊的同學、同事或朋友，甚至家人。

研究顯示，在18歲至34歲的英國民眾當中，每7名女性就有1名、每9名男性就有1名曾遭到Deepfake色情影像恐嚇，警方自2015年至2021年共接獲超過2.8萬宗通報。今年，英國修訂《線上安全法》（Online Safety Act），將未經當事人同意製作、散播的Deepfake創作定為犯罪，法院可即刻處以最高6個月徒刑，具惡意者最多處以2年徒刑。而在美國，包括加州、維珍尼亞州和德薩斯州在內的幾個州已將深度偽造色情內容定為犯罪。然而，目前還沒有專門解決這一問題的聯邦法律，導致各州立法各不相同。

亞洲國家中，除了韓國，台灣在2020年至2021年曾發生一宗Deepfake換臉性剝削案件，主嫌為台灣網紅YouTuber小玉（本名朱玉宸）及另外兩名共犯。他們建立了擁有幾千名成員的Telegram群組「台灣網紅挖面」，濫用Deepfake技術將上百名女星、政治人物、網紅的臉變換為承認影片主角，在群組内傳播、販售牟利逾1,338萬新台幣（約327萬港元）。主嫌小玉最終遭法院依違反《個資法》、妨害名譽等罪處以6年8個月徒刑，於今年5月29日入獄服刑。