曾批危害安全 中國疑用Deepfake報新聞 AI女主播:中美大國合作可促進全球經濟復蘇
綜合外媒報道,美國社交媒體賬戶分析公司Graphika前日釋出的報告表示,虛構新聞媒體Wolf News發佈在社交媒體上的影片中,播報新聞的主播是由AI軟體生成,Graphika懷疑該影片是在為中國宣傳。
Photo from Graphika
Graphika情報副總裁史塔布斯(Jack Stubbs)表示,這是首次出現國家聯合行動使用AI虛擬人物製作影片,並直指該影片存在「騙人的政治內容」。
兩條新聞播報影片時長介於18至20秒之間,使用了一些綫上資源的庫存圖片,影片中可見,自稱亞力克斯(Alex)的AI男主播批評美國讓槍支暴力問題氾濫卻無所作為;另一條影片中顯示,AI女主播安娜(Anna)强調了中美「大國合作」可促進全球經濟復蘇的重要性。
報告中指出,Wolf News影片中出現的兩位AI主播是使用倫敦人工智慧新創公司Synthesia提供的技術所創建;據悉,該技術是根據真人影片創造出虛擬人物。
Photo from 紐約時報
Synthesia官網公告中指出,該公司在批准客戶使用旗下AI技術之前,會經過明確的内部篩選流程,任何涉及政治性、歧視性和犯罪相關内容是不會被通過的,該公司推出的產品包括可在幾分鐘内生成的AI影片,每月訂閲費從30美元(約235港元)起跳。
報道稱,中國於上月實施新規定,要求提供「深偽技術」服務的企業取得用戶的真實身分,並對內容進行適當標記,以避免「任何混淆」;該國政府也曾經警告該技術「對國家安全和社會穩定構成危險」,北京當局也在數週前採行了這幾項廣泛規定。
目前,中國政府和Synthesia均未對此報告發表任何評論。
「深偽技術」(Deepfake)是「深度學習」(deep learning)和「偽造」的混合詞,又稱深度偽造,是基於人工智能的人體圖像合成技術,實現音頻和視頻的模擬和偽造,包括語音模擬、換臉、表情操縱等,於2017年開始逐漸進入大衆視野。
Text by BusinessFocus Editorial