AI 產業地圖公司・產品・材料
從晶片,走到電路板

CPU、GPU 在哪裡?
AI 伺服器的 PCB 為什麼越來越複雜?

先認出做運算的晶片,再看承載與連接它們的板子。GPU、PCB 與 ABF 載板是不同層級的東西。

CPU:協調與執行程式

像工作室的管理者,也親自處理很多一般工作:執行作業系統、準備資料、安排任務。它不是只負責指揮。

看 Grace/Vera CPU →

GPU:大量平行運算

像許多人同時做相似的計算,特別適合 AI 的矩陣運算。旁邊的 HBM 幫忙快速供應資料。

拆 GPU 與 HBM →

PCB:把零件接成系統

晶片封裝下面還有載板;更大的主板與加速器板,則負責零件之間的訊號與電力連接。

先分清載板與 PCB →

以 GB200 為例,一層一層看數量

一個 GB200 NVL72 機櫃包含 36 顆 Grace CPU 與 72 顆 Blackwell GPU。NVIDIA DGX 的配置採 18 個運算托盤,每個托盤有 2 顆 CPU 與 4 顆 GPU;每塊運算板可再看到 1 顆 CPU 搭配 2 顆 GPU。

圖鑑用抽出的運算板讓你看見晶片;顏色用來區分功能,冷板暫時移開。實際機台運作時,晶片通常被散熱結構蓋住。

打開托盤找 CPU 與 GPU →

研究表格中的板名,先這樣理解

板型在什麼位置做什麼
OAM 加速器模組板加速器封裝所在的模組把加速器與電源、連接介面做成模組;並非所有品牌都採同一模組形式。
UBB 基板多個加速器模組下方承接多個模組,讓它們互連;CPU 主板可能是另一塊板。
HPM 主機處理器模組運算托盤內OCP 定義為 Host Processor Module;研究表中的特定平台板名仍須對照機台文件,不能把所有世代視為同一種板。
NVSwitch/互連板交換托盤或互連部分讓多顆 GPU 交換資料;它不等於 CPU 或 GPU 的主板。

世代比較:先看運算平台,再看板型

陣營平台與世代怎麼理解
NVIDIAHopper → Blackwell → Vera RubinRubin 平台包含 Vera CPU、Rubin GPU 與互連晶片;不能只用 GPU 名稱推定整機 PCB 規格。
AMDEPYC + Instinct/HeliosMI450 與 Helios 的規畫需區分初期出貨及特定客戶部署,不能將某客戶的 2027 導入時間當成整個平台唯一時程。
Amazon AWSTrainium2 → Trainium3Trainium 是自研 AI 加速器,並不是 NVIDIA GPU。Trn3 UltraServers 已於 2025 年 12 月宣布正式可用。
Alphabet/GoogleIronwood(第 7 代)→ TPU 8t/8iTPU 是 Google 的 AI 加速器;第 8 代區分訓練與推論取向,不能直接合併成一種 TPU 板型。

世代名稱不直接決定 PCB 層數。Rubin Ultra、Trainium4、TPU V9 等未來板型,必須分別核對正式產品與板級文件。

5 + 8 + 5(18L),不是 18 顆晶片

這類疊構寫法是在數電路板的層:外側一邊 5 層、中間 8 層、另一邊 5 層,合計 18 層。20L、26L、30L 同樣代表板層數,不是 GPU 數量,也不是 HBM 堆疊高度。

這是讀懂疊構標記的算式範例,並非替特定機台保證 18 層規格。實際層數、材料、盲埋孔與壓合方式,仍以該板的疊構文件為準。

HDI:精細的局部連接

用更細的走線、微孔與增層方式,幫高密度晶片接腳找到路。製程難度不只取決於總層數。

PTH:貫穿板子的導通孔

像在樓層間開一條直通通道。高多層板也可能採通孔;HDI 板同樣可以包含通孔,兩者不是絕對互斥。

為什麼需要更複雜?

更多資料要同時傳送,供電也更吃重。設計必須同時顧及路徑密度、訊號損耗、電力與散熱,並非層數越多就一定越好。

連到材料與公司

PCB 製造欣興臻鼎-KY封裝載板欣興景碩南電

CCL 銅箔基板台光電台燿聯茂。沿零件頁可繼續看各家材料與能力;此分類不代表全部供應同一個平台。