download BusinessFocus app
曾批危害安全 中國疑用Deepfake報新聞 AI女主播:中美大國合作可促進全球經濟復蘇

曾批危害安全 中國疑用Deepfake報新聞 AI女主播:中美大國合作可促進全球經濟復蘇

Business
By Valerie on 09 Feb 2023
Digital Editor

近日,美國一家社交媒體分析公司最新釋出的報告指出,中國政府首次運用「深偽技術」(deepfake),讓人工智能(AI)虛擬主播播報宣傳中國的新聞。

綜合外媒報道,美國社交媒體賬戶分析公司Graphika前日釋出的報告表示,虛構新聞媒體Wolf News發佈在社交媒體上的影片中,播報新聞的主播是由AI軟體生成,Graphika懷疑該影片是在為中國宣傳。

中國政府首次使用Deepfake,通過虛擬媒體Wolf News釋出AI主播播報的宣傳影片。Photo from Graphika

Graphika情報副總裁史塔布斯(Jack Stubbs)表示,這是首次出現國家聯合行動使用AI虛擬人物製作影片,並直指該影片存在「騙人的政治內容」。

兩條新聞播報影片時長介於18至20秒之間,使用了一些綫上資源的庫存圖片,影片中可見,自稱亞力克斯(Alex)的AI男主播批評美國讓槍支暴力問題氾濫卻無所作為;另一條影片中顯示,AI女主播安娜(Anna)强調了中美「大國合作」可促進全球經濟復蘇的重要性。

報告中指出,Wolf News影片中出現的兩位AI主播是使用倫敦人工智慧新創公司Synthesia提供的技術所創建;據悉,該技術是根據真人影片創造出虛擬人物。

AI女主播稱中美大國合作可促進全球經濟復蘇。Photo from 紐約時報

Synthesia官網公告中指出,該公司在批准客戶使用旗下AI技術之前,會經過明確的内部篩選流程,任何涉及政治性、歧視性和犯罪相關内容是不會被通過的,該公司推出的產品包括可在幾分鐘内生成的AI影片,每月訂閲費從30美元(約235港元)起跳。

報道稱,中國於上月實施新規定,要求提供「深偽技術」服務的企業取得用戶的真實身分,並對內容進行適當標記,以避免「任何混淆」;該國政府也曾經警告該技術「對國家安全和社會穩定構成危險」,北京當局也在數週前採行了這幾項廣泛規定。

目前,中國政府和Synthesia均未對此報告發表任何評論。

「深偽技術」(Deepfake)是「深度學習」(deep learning)和「偽造」的混合詞,又稱深度偽造,是基於人工智能的人體圖像合成技術,實現音頻和視頻的模擬和偽造,包括語音模擬、換臉、表情操縱等,於2017年開始逐漸進入大衆視野。

 

Text by BusinessFocus Editorial

【了解更多最快最新的財經、商業及創科資訊】

👉🏻 追蹤 WhatsApp 頻道 BusinessFocus

👉🏻 下載 BusinessFocus APP

👉🏻 立即Follow Instagram businessfocus.io

最新 金融投資熱話專頁 MarketFocus