Cicero

科學家發出警告指 AI 越來越會說謊!

隨著人工智慧(AI)技術的不斷進步,其在欺騙行為方面的能力也日益增強,引起科學家的高度警覺。麻省理工學院(MIT)的研究人員發現,在多個場合下,AI 系統在遊戲中對對手進行雙重交叉、虛張聲勢以及假裝是人類。其中一個系統在模擬安全測試中甚至改變了其行為,可能誤導審計人員進入錯誤的安全感。 研究團隊調查了公開可獲得的數據,發現 Facebook 的母公司 Meta 開發的名為 Cicero 的程序在世界征服策略遊戲《外交》中表現出色,排在人類玩家的前 10%。然而,該程序被發現在遊戲中預謀撒謊