美國聯邦調查局（FBI）近日發出嚴正警告，指出人工智慧（AI）技術的普及正在讓網絡攻擊者越來越容易發動攻擊，這對網絡安全帶來極大挑戰。
FBI指出，越來越多的黑客正在利用 AI 技術進行釣魚攻擊和開發惡意軟件，而這些攻擊的影響力也日益擴大。大型 AI 模型，如 ChatGPT 等，都被用來開發擅長逃避最新安全系統的惡意軟件。這種所謂的多型惡意軟件以前需要高技能的黑帽駭客才能創造，但現在這一技術正趨於普及。
不僅僅是封閉的 AI 模型，像 Anthropic 的 Claude 2，開源 AI 也成為 FBI 關注的焦點。在這個世界裡，黑客可以選擇基本模型，並根據自己的需求對其進行微調，例如 BratGPT 和 DarkBert 等複製模型，甚至訂閱黑帽駭客導向的模型，例如 WormGPT。
特別值得關注的是訂閱式模型，使得駭客可以輕易地發動遠程釣魚攻擊，這將攸關網絡安全的大局。利用這些工具，攻擊者可以自動構建整個網頁和電子郵件鏈，或編寫擅長逃避現有網絡安全能力的多型惡意軟件，使得防禦處於弱勢地位。但 FBI 未具件說明哪些開源 AI 模型被利用，但僅僅闡明問題已足以引起警覺。
FBI 同時強調了與生成式 AI 技術擴散相關的安全擔憂。這些技術可用於深度偽造，即由 AI 生成的看似真實但實際上從未發生過的內容。深度偽造可能對現實世界帶來極大威脅，尤其在傳媒領域。此外，AI 生成的合成數據和人類活動產生的真實數據之間的區分成為一個難題。
為了解決這些問題，OpenAI、微軟、谷歌和 Meta 等大型 AI 公司已承諾引入數碼水印技術。OpenAI 最近關閉了其僅具有 26％ 成功率的 AI 分類器工具，這顯示了這些技術還需進一步改進。
資料來源：tomshardware
