AI詐騙風暴：人類辨識率僅62%，金融防線全面失守？

微軟AI for Good團隊最新研究顯示，人類辨識AI生成圖像的平均成功率僅62%，略高於隨機猜測的50%。研究指出，人類難察覺無明顯瑕疵的AI內容。在此背景下，OpenAI行政總裁Sam Altman近日發出警告，AI發展正引發全球「詐騙危機」。他批評金融機構仍接受聲紋驗證大額轉賬「瘋狂」，因AI已破解多種身份認證方式，現行安全措施形同虛設。

 人類認知科技的侷限與偏差

 微軟AI for Good團隊近期發布的研究報告，為AI時代下的「真實性」問題敲響警鐘。這項匯集全球逾1.25萬名參與者、總計28.7萬次圖像評估的全球性研究揭示，人類在辨識AI生成圖像方面的平均成功率僅達62%，僅略高於隨機猜測的50%水平。這突顯AI技術快速進化下，人類感知能力的局限性，更引發對數碼內容真實性的深層憂慮。

 研究指出，儘管參與者在識別AI假人像時相對容易，但面對自然景觀或城市景觀等圖像時，成功率則大幅下滑至59%至61%。這是因為缺乏明顯圖像瑕疵或風格線索時，人類難以區分真實與AI生成內容。值得注意的是，微軟自家的AI檢測工具成功率超過95%，驗證了技術輔助在內容驗證領域的潛力。

 AI驅動詐騙崛起

 當我們仍在努力辨識圖像真偽，AI技術已將身份驗證系統的威脅提升至更高層次。OpenAI執行長Sam Altman警告，AI的快速發展已引發一場前所未有的「詐欺危機」，並形容金融機構仍接受聲紋作為大額資金轉移的身份驗證方式為「瘋狂」。他指出，AI已擊敗大多數現行人類的身份驗證方式，包括聲紋、自拍和簡單視訊動作。

 實際上，AI深度偽造技術已造成多起危害。僅需20秒音訊樣本，就能產生逼真的語音模仿。例如，美國曾有多位家長接到AI語音冒充子女的詐騙電話，謊稱急需金錢。在企業層面，2024年初，香港一家公司員工在視訊會議中被AI深度偽造的財務長欺騙，轉移2500萬美元。美國官員也證實，有人利用AI假冒國務卿聲音聯繫州長和國會議員。Sam Altman坦言，這種利用AI對美國發動攻擊導致大規模金融危機的可能性，讓他「徹夜難眠」。

 建構AI安全倫理與防禦新框架

 微軟研究與Sam Altman警告顯示，AI偽造技術從圖像假造到身份驗證被破解，威脅日益升級，暴露了當前資訊防護機制的脆弱性。AI雖帶來技術突破，但也對全球金融安全和身份認證體系構成挑戰，逐漸侵蝕金融服務的基石——信任。

 為應對這股日益猖獗的詐騙浪潮，業界與政策制定者必須加速行動。微軟倡議開發透明度工具，如數碼水印和強大AI檢測系統，以增強公眾辨識能力和數碼生態的信任。Sam Altman則強調尋求「人類證明」的解決方案，支持開發如「The Orb」等工具。企業需持續了解威脅情資，培訓員工和客戶，並投資前瞻性驗證方法。在AI時代，「身份識別」的防禦越來越難以維持，我們需重新思考如何在真假難辨的世界中建立新防禦，抵禦不斷演進的攻擊手法。

Text by BusinessFocus Editorial

免責聲明：本網頁一切言論並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力自行作出投資決定，如因相關言論招致損失，概與本公司無涉。投資涉及風險，證券價格可升可跌。