曾批危害安全 中國疑用Deepfake報新聞 AI女主播：中美大國合作可促進全球經濟復蘇

近日，美國一家社交媒體分析公司最新釋出的報告指出，中國政府首次運用「深偽技術」（deepfake），讓人工智能（AI）虛擬主播播報宣傳中國的新聞。

綜合外媒報道，美國社交媒體賬戶分析公司Graphika前日釋出的報告表示，虛構新聞媒體Wolf News發佈在社交媒體上的影片中，播報新聞的主播是由AI軟體生成，Graphika懷疑該影片是在為中國宣傳。

Photo from Graphika

Graphika情報副總裁史塔布斯（Jack Stubbs）表示，這是首次出現國家聯合行動使用AI虛擬人物製作影片，並直指該影片存在「騙人的政治內容」。

兩條新聞播報影片時長介於18至20秒之間，使用了一些綫上資源的庫存圖片，影片中可見，自稱亞力克斯（Alex）的AI男主播批評美國讓槍支暴力問題氾濫卻無所作為；另一條影片中顯示，AI女主播安娜（Anna）强調了中美「大國合作」可促進全球經濟復蘇的重要性。

報告中指出，Wolf News影片中出現的兩位AI主播是使用倫敦人工智慧新創公司Synthesia提供的技術所創建；據悉，該技術是根據真人影片創造出虛擬人物。

Photo from 紐約時報

Synthesia官網公告中指出，該公司在批准客戶使用旗下AI技術之前，會經過明確的内部篩選流程，任何涉及政治性、歧視性和犯罪相關内容是不會被通過的，該公司推出的產品包括可在幾分鐘内生成的AI影片，每月訂閲費從30美元（約235港元）起跳。

報道稱，中國於上月實施新規定，要求提供「深偽技術」服務的企業取得用戶的真實身分，並對內容進行適當標記，以避免「任何混淆」；該國政府也曾經警告該技術「對國家安全和社會穩定構成危險」，北京當局也在數週前採行了這幾項廣泛規定。

目前，中國政府和Synthesia均未對此報告發表任何評論。

「深偽技術」（Deepfake）是「深度學習」（deep learning）和「偽造」的混合詞，又稱深度偽造，是基於人工智能的人體圖像合成技術，實現音頻和視頻的模擬和偽造，包括語音模擬、換臉、表情操縱等，於2017年開始逐漸進入大衆視野。

Text by BusinessFocus Editorial

相關文章：AI機械人聊天內容令人不適 竟出言性騷擾人類 投訴近期激增

【AI聊天機械人大戰】Google發布BARD 百度推文心一言 狂升15%成最強藍籌