台積電董事長劉德音坦承,NVIDIA AI 晶片還會持續短缺至少 1.5 年

- Arthur Chan - 2023-09-09

台積電董事長坦承,目前人工智慧(AI)和高性能運算(HPC)應用的計算 GPU 持續短缺,原因是其晶片層架封裝(CoWoS)能力受限。由於對生成式 AI 應用的需求不斷增加,以及台積電 CoWoS 能力擴充進展相對緩慢,預計這種短缺將持續約 18 個月。

台積電董事長劉德音在台灣半導體展期間接受《日經亞洲評論》訪問時表示:「問題不是 AI 晶片的短缺,而是我們的 CoWoS 能力短缺。目前,我們無法滿足 100% 的客戶需求,但我們力求支援約 80%。我們認為這是一個暫時的現象。在我們擴充先進晶片封裝能力後,問題應該會在 1.5 年內緩解。」

台積電是大多數 AI 處理器的生產商,包括 NVIDIA 的 A100 和 H100 計算晶片,這些 GPU 對於像 ChatGPT 等 AI 工具至關重要,並且主要用於 AI 數據中心。這些處理器,就像其他公司的解決方案(如 AMD、AWS 和 Google)一樣,使用 HBM 記憶體(對於高帶寬和大型 AI 語言模型的正常運行至關重要),以及 CoWoS 封裝,這使台積電的先進封裝設施更加負擔沉重。

劉德音表示,CoWoS 的需求在今年早些時候意外激增,同比增長三倍,導致目前的供應短缺。台積電認識到,生成式 AI 服務的需求正在增長,適當硬件的需求也在增加,因此正在加速擴展 CoWoS 能力,以滿足計算 GPU 以及專用 AI 加速器和處理器的需求。

目前該公司正在現有的先進封裝設施中安裝額外的 CoWoS 工具,但這需要時間,該公司預計其 CoWoS 能力僅在 2024 年底前增加一倍。台積電最近宣布計劃投資 29 億美元在苗栗附近建立一個專門用於先進晶片封裝的新設施。這個設施體現了公司解決來自各個領域對先進封裝需求的承諾,以及認識到先進晶片封裝在未來半導體行業的重要性。

這種對先進晶片封裝的關注並不僅限於台積電,其他行業巨頭如英特爾和三星也將其視為優先事項,英特爾計劃到 2025 年將其頂級晶片封裝能力增加四倍。傳統的外包半導體組件和測試(OSAT)公司如 ASE 和 Amkor 也具有類似 CoWoS 的技術,但他們尚需建立與台積電、英特爾和三星相媲美的能力。

資料來源:tom’sHARDWARE