根據 OpenAI 的最新報告，中國和伊朗的黑客團體正在利用 ChatGPT 及大型語言模型（LLM）工具，開發惡意軟件和執行網路釣魚攻擊。這份報告記錄了超過 20 宗由 ChatGPT 協助創建的網絡攻擊事件，顯示這些 AI 工具如何被濫用於網絡犯罪活動。報告中指出，第一次被記錄的攻擊由中國的威脅行為者在 2024 年 11 月發動，針對亞洲政府機構，透過名為「SweetSpecter」的魚叉式網路釣魚手法，含有惡意檔案的 ZIP 文件一旦被下載並打開，便會在用戶系統上創建感染鏈。OpenAI 發現，該攻擊是透過多個帳戶使用 ChatGPT 來開發腳本和利用 LLM 工具發現漏洞創建的。
伊朗的「CyberAv3ngers」團隊則利用 ChatGPT 來開發針對 macOS 系統的攻擊，竊取用戶密碼。另一伊朗團隊「Storm-0817」則使用 ChatGPT 開發了針對 Android 系統的惡意軟件，該軟件能夠竊取聯絡人列表、提取通話記錄和瀏覽器歷史、獲取設備的精確位置以及訪問感染設備上的文件。
儘管這些攻擊大多數使用現有的方法來開發惡意軟件，但報告顯示，利用 ChatGPT 創建惡意攻擊工具的容易性，為網絡安全領域帶來了新的挑戰。OpenAI 表示將繼續改進其 AI 技術，以防止這些方法被利用，同時也將與內部安全團隊以及研究社群合作，共享發現並防止此類情況發生。
