Elon Musk 於日前宣布，在 Memphis 進行 GROK 3 的訓練，將會使用目前最新一代的 NVIDIA H100 GPU。這個被稱為世界上最強大的 AI 集群，已正式開始在 NVIDIA 的最強數據中心 H100 GPU 上進行 xAI 的訓練。他在 X 社交媒體上發布消息，稱讚這是「世界上最強大的 AI 訓練集群！」。帖子中提到，這個超級集群將利用 10 萬顆水冷 H100 GPU 在單一 RDMA 網絡上進行訓練。
訓練於當地時間凌晨 4:20 開始，根據 Elon Musk 聲稱世界上最強大的 AI 將在今年 12 月準備就緒。據報導，GROK 2 將在下月推出，而 GROK 3 將在 12 月推出，這是在 xAI 和 Oracle 取消了 100 億美元伺服器交易約兩周後的事情。xAI 原本從 Orcale 租用 NVIDIA 的 AI 晶片，但決定建造自己的伺服器，終止與 Oracle 的現有交易，該交易原本預計將持續幾年。該項目現在旨在使用十萬顆高性能 H100 GPU 構建自己的超級電腦，每顆 H100 GPU 的成本約為 30,000 美元，雖然 GROK 2 使用了 20,000 顆，但 GROK 3 需要五倍的力量來開發其 AI 聊天機器人。
