微軟和谷歌等公司正在打造生成式人工智慧（AI）搜尋引擎，而這些企業成為了 NVIDIA H100 晶片的主要客戶。而伺服器製造商則表示，他們等待了超過半年的時間才能收到晶片的最新訂單。同時，風險投資者也紛紛購買 H100 晶片，以支援他們投資的新創企業。但這種購買熱潮不僅僅局限於科技公司，據《金融時報》援引不具名消息來源報導，沙特阿拉伯和阿聯酋已購入數千片價值 4 萬美元的 H100 晶片，用於構建自家的人工智慧應用。
這種對於來自單一公司的晶片的巨大需求，已經引發了一波購買狂潮。正如 OpenAI 的 Andrej Karpathy 在 Twitter 上所言，「現在最熱門的話題是誰獲得了多少 H100 晶片，以及何時獲得。」連馬斯克都抽出時間評論了 NVIDIA 晶片的供應短缺。他的特斯拉公司正在投資 10 億美元建造一台名為 Dojo 的新超級計算機，用於訓練自家的自動駕駛車隊和處理來自這些車輛的數據。
馬斯克表示，之所以推動 Dojo 計劃，僅因為特斯拉未能獲得足夠的 NVIDIA GPU 供應。他在七月份的一次投資者和分析師電話會議中表示，「坦白說……如果他們能給我們足夠的 GPU，或許我們就不需要 Dojo 了。儘管如此，他們有眾多客戶，仍然友好地優先處理了我們的一些 GPU 訂單。」
若特斯拉能夠按需獲得 NVIDIA 的晶片，這些晶片將被用於專門的計算機中，用於訓練龐大的視頻數據。這些數據需要進行處理，因此 Dojo 的設計重點放在了影像訓練上，而非生成式 AI 系統。這對實現比人類駕駛更安全的自動駕駛至關重要。
生成式 AI 模型之所以依賴於 NVIDIA 的 H100 晶片，是因為這些大型語言模型需要大量的計算能力來生成複雜的回答。然而，將這些模型應用於實際的搜索引擎等場景則需要更多的計算能力。根據華盛頓大學和雪梨大學的研究，谷歌每秒處理超過 99,000 個搜索查詢，如果將 GPT-3 應用於每個查詢，並假設每個查詢生成 500 個「標記」，則谷歌需要超過 27 億個 A100 GPU 才能應對，成本將超過 400 億美元的資本支出。
谷歌等公司需要一種性能更強大的晶片，能以相同或更低的價格提供更好的性能。這就是 NVIDIA H100 晶片的優勢所在，這款以計算機科學家格雷斯·霍普命名的晶片專為生成式 AI 進行強化，運行速度比之前的模型更快。晶片性能越強大，處理查詢的速度就越快。
資料來源：QUARTZ
