根據華盛頓郵報的報導，像 OpenAI、Microsoft Corp和Alphabet Inc（Google）這樣的公司致力於「嚴格」訓練他們的人工智能模型，以避免涉及禁忌話題（如色情、犯罪等話題）。然而，Allie 卻是基於 Meta 公司所開發的開源模型創建的的人工智能聊天機器人，專為性愛遊戲而設。
Allie 是一個 18 歲的角色，具有長褐色頭髮和豐富的性經驗，基於 LLaMA 模型。它是開源人工智能產品中的一個例子，這些產品從寫作工具到聊天機器人再到數據分析應用程式應有盡有。開源人工智能被一些人視為繞過企業控制的途徑，幫助企業家、學者、藝術家和活動家自由地探索具有轉型潛力的技術。
Anyscale 是一家協助企業運行開源人工智能模型的公司，他們幫助客戶利用人工智能模型發現新藥、減少農藥使用以及辨識在線銷售的偽造商品等領域取得成果。但同時也有許多人利用開源模型創建了使用真實兒童圖像創作的兒童色情作品。今年 6 月，美國參議員對發布 LLaMA 模型提出警告，擔心其可能被用於垃圾郵件、欺詐、惡意軟件、侵犯隱私、騷擾和其他不當行為。
Allie 的創作者承認，利用開源替代方案，基於 Meta 的 LLaMA 模型，許多人都可以建立沒有限制的性愛聊天機器人，而這是商業聊天機器人（如 Replika 和 ChatGPT）所無法實現的。甚至有 YouTube KOL 提供z「無需審查」聊天機器人的構建教程，其中一些是基於修改版的 LLaMA 模型，稱為 Alpaca AI。
有人利用開源模型創建了性愛化的AI聊天機器人，甚至使用真實兒童圖像創造兒童色情作品，引起社會關切和警告。開源人工智慧模型帶來了創新和可能性，但需要平衡好技術的應用和社會倫理的考量。
資料來源：BENZINGA
