【偽造裸照】全新AI技術「一鍵脫」偽造裸照!荷蘭報告:逾10萬女性成受害者!

【偽造裸照】全新AI技術「一鍵脫」偽造裸照!荷蘭報告:逾10萬女性成受害者!

Tech News
Byeloise on 22 Oct 2020 Digital Editor

AI技術日新月異,雖然這可帶來不少的便利,但如果完全不考慮一些潛在的後果,最後受影響的也會是我們。10月21日,英國廣播公司(BBC)的報導指出,Telegram出現了大量偽造的裸體圖片,裡面的受害者包括未成年少女。而這些偽造裸體圖,主要是透過深度造假(Deepfake)技術,將女性的照片轉換成裸照,因此引起大眾的擔憂。

BBC報道,荷蘭情報機構Sensity的研究人員在通訊應用程式Telegram中,發現一個源自人工智能(AI)的「生成對抗網絡」(Generative Adversarial Network,GAN)偽造技術,可以利用演算法從現有數據中,產生新數據。截至2020年7月,有超過10萬名女性受害者的假裸照被公開分享了出去。

Telegram裡有一個私人群組,群組裡會提供一個使用人工智能技術的「網絡機器人」,用戶在發送一張女性照片後,照片上的衣服就會在幾分鐘之內被移除。程式會繪製照片上的主角沒穿衣服的形象,幫助用戶為她們「一鍵脫衣」。

Telegram裡有一個私人群組,群組裡會提供一個使用人工智能技術的「網絡機器人」,用戶在發送一張女性照片後,照片上的衣服就會在幾分鐘之內被移除。程式會繪製照片上的主角沒穿衣服的形象,幫助用戶為她們「一鍵脫衣」。
Photo from Input Mag

使用「生成對抗網絡」的用戶創建這些「假裸照」之後,可以通過Telegram 等通訊渠道,進行共享和交易。對此, Sensity的首席執行官帕特裏尼(Giorgio Patrini)強調,只要一個人有社交媒體賬號,上面擁有個人照,就有機會被別人拿去造假裸照。

隨後,BBC在獲取多位女性的同意之後,利用她們的照片進行實際測試。結果發現,沒有一張造假裸照看起來像是真的,其中一張還把照片上女性的肚臍放錯在別的位置。雖然照片虛假,但還是不禁讓人懷疑,將來技術進步後,這些裸照將有機會變得更真實。

廣告
廣告

報道又引述一個化名為「P 」的程式管理人員稱,程式提供的功能「純屬娛樂」,不涉及任何的暴力行為,目前沒有人會以程式製作的假裸照來勒索他人,因為裸照的「像真度」並不高。而管理人員亦會檢查用戶分享的照片,如果在「過濾」照片時看見未成年少女,管理員就會馬上封鎖該用戶。

其實,早在幾年前,Deepfake這個技術就有不少人將明星的臉孔替換到色情影片中的案例,其效果十分逼真。
Photo from Business Insider

 

其實,早在幾年前,Deepfake這個技術就有不少人將明星的臉孔替換到色情影片中的案例,其效果十分逼真。還有人利用Deepfake換掉奧巴馬(Obama)的臉孔,或將自己的臉放入知名MV當中,達到娛樂效果。目前,該技術引發了一系列的假新聞及假消息,但目前仍未有被具體定義為犯罪行為。而美國的弗吉尼亞州(Virginia)在去年就已成為全球第一個法律禁止DeepFake的地方。

Text by BusinessFocus Editorial

Share to Facebook