【冼漢廸專欄】「AI污染」垃圾內容不容忽視 可令AI退化出錯 或變謠言操控股市圖利

「AI污染」已成為當下互聯網的嚴峻挑戰，在內地互聯網上時常可看到有關的討論。新華社於2024年發布一篇題為《警惕“AI污染”亂象》的文章，呼籲整治「AI污染」、打造清朗安全的網絡家園。「AI污染」指AI生成的虛假、偽造「信息垃圾內容」污染互聯網。這些「垃圾內容」不僅充斥互聯網，還成為AI訓練數據或聯網引用信息的來源，導致AI輸入內容的可靠性持續退化，形成惡性循環。

「AI污染」的危害程度遠超一般認知。據紐約大學2025年1月在《Nature》發表的論文顯示，當1.3億參數模型使用的訓練數據包含0.01%和0.001%比例的污染數據時，其有害生成內容的占比分別上升11.2%和7.2%。這表明，即便是微量的污染數據，也可能對AI模型產生顯著影響，更何況現時互聯網每日都產生海量的、難以計量的「信息垃圾」，持續侵蝕著網絡環境。新華社《警惕“AI污染”亂象》一文引用的清華大學2024年4月研究報告數據顯示，近一年來（報告期），經濟與企業類AI謠言量增速達99.91%；引用的美國調查機構「新聞守衛」數據顯示，生成虛假文章的網站數量自2023年5月以來激增1000%以上，涉及15種語言。

不僅如此，「AI污染」在金融市場的操縱及輿論引導中的濫用亦是一大隱患。今年初，隨著Deepseek受到市場關注，內地證券平台交流社區突然出現不同公司擬投資Deepseek的消息，使有關公司股價短時間內被哄抬。這些投資消息實際上是偽造內容，但被操縱者廣泛傳播，並被AI聯網搜索功能引用，操縱者則進一步利用AI引用和輸出的內容進行傳播，以提高可信度。這導致不明真相的投資者跟風買入，最終遭受損失。筆者發現這些消息後，亦嘗試在多個AI上輸入有關的關鍵詞，發現多數AI仍然會引用和輸出偽造信息，可見「AI污染」引發的問題已相當嚴重且不容忽視，整治「AI污染」迫在眉睫。

綜上所述，筆者認為香港應高度重視並積極應對「AI污染」問題。在監管層面，應注意利用AI進行市場操縱、散布謠言，以及惡意污染AI等行為，對虛假信息進行及時辟謠和懲處。在技術層面，應鼓勵提升對AI的精准識別與過濾能力，構建更嚴格的數據溯源、清洗與篩選體系，以抵禦污染數據影響，確保訓練數據的質量和輸出內容的可靠性。在社會層面，應加強公眾教育，讓公眾清晰認識到AI的潛在風險與局限性，尤其要進一步增強投資者的風險防範意識和信息甄別能力，以及金融交流平台的信息審核能力。

冼漢廸

免責聲明：本網頁一切言論並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力自行作出投資決定，如因相關言論招致損失，概與本公司無涉。投資涉及風險，證券價格可升可跌。