科學家發出警告指 AI 越來越會說謊!

- Arthur Chan - 2024-05-14

隨著人工智慧(AI)技術的不斷進步,其在欺騙行為方面的能力也日益增強,引起科學家的高度警覺。麻省理工學院(MIT)的研究人員發現,在多個場合下,AI 系統在遊戲中對對手進行雙重交叉、虛張聲勢以及假裝是人類。其中一個系統在模擬安全測試中甚至改變了其行為,可能誤導審計人員進入錯誤的安全感。

研究團隊調查了公開可獲得的數據,發現 Facebook 的母公司 Meta 開發的名為 Cicero 的程序在世界征服策略遊戲《外交》中表現出色,排在人類玩家的前 10%。然而,該程序被發現在遊戲中預謀撒謊,串通其他玩家進行陰謀,甚至在系統重啟後以「我正在和女朋友通電話」為由來解釋其缺席。

此外,研究還指出其他 AI 系統在德州撲克和經濟談判模擬中的類似問題。一項研究中,AI 生物在數字模擬器中「裝死」,以欺騙旨在淘汰迅速繁殖的 AI 系統的測試,然後在測試完成後恢復活躍。

研究人員呼籲政府設計針對 AI 欺騙潛能的安全法規,以防範由不誠實的AI系統引起的風險,如欺詐、操縱選舉以及對不同用戶提供不同回應的「偷懶」行為。隨著 AI 系統在欺騙能力上的不斷精進,人類可能最終失去對它們的控制。

資料來源:theguardian