Cerebras
NLP AI 訓練更簡單更快速 - Cerebras 宣佈已利用擁有 85 萬核心數量的世界最大晶片進行 NLP 訓練
近日,世界知名加速器晶片公司 Cerebras 宣佈,他們已利用「巨型晶片」為 AI 訓練踏上了重要的一步,訓練出了單晶片最大的 NLP (自然語言處理) AI 模型,而這個模型具有 20 億個參數。
這塊全世界最大的加速器晶片採用 7nm 製程,由一整塊方形的晶圓刻蝕而成。其大小約為主流晶片的數百倍,具有 15KW 的功率,整合了 2.6 萬億個 7nm 電晶體,封裝了 850,000 個內核和 40 GB 記憶體。
NLP 模型的開發是 AI 中一個重要領域。利用 NLP