隨著人工智慧（AI）技術的不斷進步，其在欺騙行為方面的能力也日益增強，引起科學家的高度警覺。麻省理工學院（MIT）的研究人員發現，在多個場合下，AI 系統在遊戲中對對手進行雙重交叉、虛張聲勢以及假裝是人類。其中一個系統在模擬安全測試中甚至改變了其行為，可能誤導審計人員進入錯誤的安全感。
研究團隊調查了公開可獲得的數據，發現 Facebook 的母公司 Meta 開發的名為 Cicero 的程序在世界征服策略遊戲《外交》中表現出色，排在人類玩家的前 10%。然而，該程序被發現在遊戲中預謀撒謊，串通其他玩家進行陰謀，甚至在系統重啟後以「我正在和女朋友通電話」為由來解釋其缺席。
此外，研究還指出其他 AI 系統在德州撲克和經濟談判模擬中的類似問題。一項研究中，AI 生物在數字模擬器中「裝死」，以欺騙旨在淘汰迅速繁殖的 AI 系統的測試，然後在測試完成後恢復活躍。
研究人員呼籲政府設計針對 AI 欺騙潛能的安全法規，以防範由不誠實的AI系統引起的風險，如欺詐、操縱選舉以及對不同用戶提供不同回應的「偷懶」行為。隨著 AI 系統在欺騙能力上的不斷精進，人類可能最終失去對它們的控制。
資料來源：theguardian
