【跨市思維】AI生成真假難分 危險已經迫在眉睫 各國政府有責任嚴厲監管

現在任何人都可以藉助人工智能（AI），生成出能夠在許多數碼環境中通過真實性驗證的虛假人物（例如透過類似 AI 換臉換聲技術）。這些由 AI 生成的虛假人物也許是人類史上最危險的工具，它們不只能夠破壞經濟，還包括影響選舉結果、摧毀人類的文明和真正的自由意志。在為時已晚之前（也許已經有點晚），全球的科技巨企都必須制定更有效的方式去防止（甚至禁止）製造虛假人物和傳播虛假人物。對於這些違法行為，各國政府的監管機構也有責任實施更為嚴厲的懲罰。

隨著科技的進步，越來越難以區分真實個體和由 AI 生成的虛假人物。這些虛假人物可以模仿人類的行為，並進行看似有意義的對話，使人們難以辨別它們的真實本質。如果人們無法有效地識別和區分真實個體和虛假人物，不明就裏的普羅百姓或會變得容易受到操縱、欺騙和利用。換句話說，人們由於傾向於將這些虛假人物視為真實個體，這可能導致意想不到的後果，因為它們會影響群眾的思維、決策和行動。

哲學家兼歷史學家 Yuval Noah Harari 在4 月份的《經濟學人》雜誌上撰文上曾問道：「這段文字是由人類生成的，或是其他？」這樣的話，明顯反映他對人工智能對人類文明迫在眉睫的威脅和警告。也許很快，人們將幾乎無法分辨出真偽。即使（暫時）現在尚能夠依靠一些方法來揭露造假的虛擬人物，但這種深度偽造對人類信任的代價也將會是巨大的。隨著虛假人物的出現，人與人之間的信任將會受到嚴重影響。虛假人物可以模仿真實個體，與我們對話，使我們難以確定其真實性。假設每次當你嘗試與朋友和家人在線上交談時，如果他們向你提出一些試探性的問題時，到底應如何回應？

為什麼創造數位的假冒人物有可能摧毀人類的文明？因為如果虛假人物被用來傳播錯誤訊息或以偏見和操縱性的方式塑造公眾輿論，後果將會是破壞現行的民主制度。允許那些在經濟和政治上最有權勢的人、公司和政府來控制虛假人物的創造與傳播，他們可以對公共話語產生過度的影響，以服務自身利益而非公共利益，甚至乎最終控制人民的思考。試想不斷受到誤導性訊息的轟炸，或受到虛假人物的操縱，既讓人容易感到困惑，人們也將越來越難以辨別真相和謬誤，甚至挑起群眾的恐懼和焦慮，又或是讓人陷入誘惑，並慢慢被潛移默化，影響獨立分析思考的能力。

再者，AI 技術的關鍵創新，有可能使這些軟件系統失去控制，因為與核彈的硬件武器不同，這些無形武器可以輕易被複製。正如 Richard Dawkins 於 1976 年在《自私的基因》（The Selfish Gene）中所證明的那樣，進化並不局限於生物體。任由這些冒牌貨（及虛假信息）充斥互聯網世界，甚至乎已開始操縱人們協助它們發展和傳播。就像人類的進化，既互相學習，那些最聰明、最適應的人不僅會生存下來，而且還會生存，並會不斷繁衍。

也許，透過高科技「數位浮水印」系統，類似歐元獵戶星座防偽標記（EURion Constellation）的方法，讓 AI需要「強制揭露其身分」。這種技術幾乎可以在所有情況下，識別出虛假人物，並發出警告。事實上，掃描器和複印機的製造商普遍已安裝了特定軟體，可以檢測和響應圓圈星座等防偽技術，防止未經授權的複製或掃描合法貨幣。透過類似的方式，或可以確保 AI 技術的開發和使用不會被濫用或以欺詐為目的。

幾可斷言的是，要清理社交媒體上泛濫的虛假信息是一個不可能完成的任務。更不幸的是，另一場新的流行病似乎要即將降臨。這次將攻擊人類大腦中脆弱的控制系統，即人類推理和獨立分析的思考能力。威脅其實已迫在眉睫，遺憾是大多數人都是一無所覺。

輝立証券研究部高級分析師 李浩然

www.facebook.com/lhyinvestment/

免責聲明：本網頁一切言論並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力自行作出投資決定，如因相關言論招致損失，概與本公司無涉。投資涉及風險，證券價格可升可跌。