安全測試

隨著人工智慧（AI）技術的不斷進步，其在欺騙行為方面的能力也日益增強，引起科學家的高度警覺。麻省理工學院（MIT）的研究人員發現，在多個場合下，AI 系統在遊戲中對對手進行雙重交叉、虛張聲勢以及假裝是人類。其中一個系統在模擬安全測試中甚至改變了其行為，可能誤導審計人員進入錯誤的安全感。 研究團隊調查了公開可獲得的數據，發現 Facebook 的母公司 Meta 開發的名為 Cicero 的程序在世界征服策略遊戲《外交》中表現出色，排在人類玩家的前 10%。然而，該程序被發現在遊戲中預謀撒謊