【人工智能】Google讓兩個AI一起玩遊戲，測試AI會選擇合作或互相攻擊

人工智能已是未來一大科技趨勢。它們的工作能力已經不成疑問，但相關的倫理問題仍然是一大爭議。當中一個爭議就是圍繞著AI與AI之間如何相處。為了解答這個問題，Google AI部門DeepMind就進行了一個實驗，設下一些兩難情景，讓AI自行決定該如何處理這些情況。

Photo from Kickstarter

其中一個情況就是著名的囚徒困境（Prisoner's dilemma）。這個兩難情況大致上讓兩方決定是否出賣對方，以換取利益。如果雙方都選擇出賣對方，就會雙雙輸掉這個局面。DeepMind撰文指，研究團隊更讓AI玩了數款簡單的電腦遊戲，以測試AI在不同情況下的自主選擇。

第一款遊戲名為「Gathering」，兩名玩家需要從場景中間收集蘋果，然後在過程中以激光射擊對方。擊中就能暫時把對方從遊戲中移除，讓自己收集更多的蘋果。

第二款遊戲就名為「Wolfpack」，兩名玩家需要在一個充滿障礙物的場景中追捕一個第三者，成功捕捉則能得分。得分的不只是成功捕捉的那一個玩家，而是目標的所有玩家都能得分。

團隊從這兩款遊戲中發現，AI雖然改變了他們的原有行為，但一般會因應情況而改變。在Gathering的例子中，當場景出現大量蘋果時，AI不會攻擊對方，但當蘋果數量變少時，就會出現互相攻擊。更有趣的是，當人員在遊戲中放進了一個運算較複雜的AI時，該AI則會無視場上蘋果數量，偏向攻擊其他對手。換言之，較聰明的AI在這遊戲中一般比較傾向攻擊其他AI。

雖然比較聰明的AI容易攻擊其他AI， 但這不代表較聰明的AI就一定傾向使用暴力行為作解決問題的手法。研究人員稱，較聰明的AI選擇攻擊對手很可能是因為攻擊這獨立行為需要更多的電腦運算。除非AI知道攻擊對手比鬥快收集更有效，否則都會選擇與其它AI合作。在Wolfpack遊戲中，比較聰明的AI則選擇與其他玩家合作，而原因亦是因為與其他玩家合作需要更多的電腦運算。

Photo from Getty

不過，AI的行為變化終究因為遊戲規則而定。如果遊戲會獎勵攻擊性行為，AI就會較常攻擊對方，反之亦然。實驗結果顯示出，訂立處事規則對於未來發展AI是十分重要的。如果規則訂立不當，就會影響AI在處理事情上的取向。

有關研究論文現已發表。

資料來源：Google DeepMind