【潛在安全風險？】MIT學生成功矇騙AI識別技術，讓其誤認玩具烏龜為槍械

AI（人工智能） 技術雖然聰明，但也有犯錯的時候。一隊麻省理工學院的學生最近發表研究論文，指他們成功矇騙AI辨認系統，將一隻玩具烏龜誤認為一支槍。

Photo from MIT

團隊在實驗中用了一隻以3D打印製成的玩具龜，而接受測試的AI技術為Google所開發的InceptionV3圖像辨認系統。試驗初期，系統都能成功認出烏龜。團隊及後用了一項名為「對抗性圖像」（adversarial image）的技術重新挑戰InceptionV3。「對抗性圖像」是一條專門矇騙AI的演算法，透過特定的圖像格式去使圖像辨認AI混淆。具體來說，「對抗性圖像」會在圖像上加入不同的花紋，令AI錯誤辨認圖像本身所含的花紋。團隊的研究的主要目的就是測試有關技術的威力。

Photo from MIT

實驗顯示，「對抗性圖像」使InceptionV3錯誤地把一張貓圖片辨認為酪梨醬，更把一張玩具龜圖片辨認為槍械。另外，團隊也使AI錯誤地將一顆棒球辨認為espresso咖啡。

Photo from MIT

團隊指出，實驗顯示出現有AI技術還存在漏洞。在需要用到AI辨認技術的情況下如果出現認錯物件的話可大可小。團隊舉例指，子自動駕駛AI有可能錯認街牌，造成意外。不過，團隊目前的實驗都是特定條件下進行，故也未能有力地證明AI識別技術存在著重大安全風險。

資料來源：Lab Six

Text by BusinessFocus Editorial