CPU:協調與執行程式
像工作室的管理者,也親自處理很多一般工作:執行作業系統、準備資料、安排任務。它不是只負責指揮。
看 Grace/Vera CPU →先認出做運算的晶片,再看承載與連接它們的板子。GPU、PCB 與 ABF 載板是不同層級的東西。
像工作室的管理者,也親自處理很多一般工作:執行作業系統、準備資料、安排任務。它不是只負責指揮。
看 Grace/Vera CPU →像許多人同時做相似的計算,特別適合 AI 的矩陣運算。旁邊的 HBM 幫忙快速供應資料。
拆 GPU 與 HBM →晶片封裝下面還有載板;更大的主板與加速器板,則負責零件之間的訊號與電力連接。
先分清載板與 PCB →一個 GB200 NVL72 機櫃包含 36 顆 Grace CPU 與 72 顆 Blackwell GPU。NVIDIA DGX 的配置採 18 個運算托盤,每個托盤有 2 顆 CPU 與 4 顆 GPU;每塊運算板可再看到 1 顆 CPU 搭配 2 顆 GPU。
圖鑑用抽出的運算板讓你看見晶片;顏色用來區分功能,冷板暫時移開。實際機台運作時,晶片通常被散熱結構蓋住。
打開托盤找 CPU 與 GPU →| 板型 | 在什麼位置 | 做什麼 |
|---|---|---|
| OAM 加速器模組板 | 加速器封裝所在的模組 | 把加速器與電源、連接介面做成模組;並非所有品牌都採同一模組形式。 |
| UBB 基板 | 多個加速器模組下方 | 承接多個模組,讓它們互連;CPU 主板可能是另一塊板。 |
| HPM 主機處理器模組 | 運算托盤內 | OCP 定義為 Host Processor Module;研究表中的特定平台板名仍須對照機台文件,不能把所有世代視為同一種板。 |
| NVSwitch/互連板 | 交換托盤或互連部分 | 讓多顆 GPU 交換資料;它不等於 CPU 或 GPU 的主板。 |
| 陣營 | 平台與世代 | 怎麼理解 |
|---|---|---|
| NVIDIA | Hopper → Blackwell → Vera Rubin | Rubin 平台包含 Vera CPU、Rubin GPU 與互連晶片;不能只用 GPU 名稱推定整機 PCB 規格。 |
| AMD | EPYC + Instinct/Helios | MI450 與 Helios 的規畫需區分初期出貨及特定客戶部署,不能將某客戶的 2027 導入時間當成整個平台唯一時程。 |
| Amazon AWS | Trainium2 → Trainium3 | Trainium 是自研 AI 加速器,並不是 NVIDIA GPU。Trn3 UltraServers 已於 2025 年 12 月宣布正式可用。 |
| Alphabet/Google | Ironwood(第 7 代)→ TPU 8t/8i | TPU 是 Google 的 AI 加速器;第 8 代區分訓練與推論取向,不能直接合併成一種 TPU 板型。 |
世代名稱不直接決定 PCB 層數。Rubin Ultra、Trainium4、TPU V9 等未來板型,必須分別核對正式產品與板級文件。
這類疊構寫法是在數電路板的層:外側一邊 5 層、中間 8 層、另一邊 5 層,合計 18 層。20L、26L、30L 同樣代表板層數,不是 GPU 數量,也不是 HBM 堆疊高度。
這是讀懂疊構標記的算式範例,並非替特定機台保證 18 層規格。實際層數、材料、盲埋孔與壓合方式,仍以該板的疊構文件為準。
用更細的走線、微孔與增層方式,幫高密度晶片接腳找到路。製程難度不只取決於總層數。
像在樓層間開一條直通通道。高多層板也可能採通孔;HDI 板同樣可以包含通孔,兩者不是絕對互斥。
更多資料要同時傳送,供電也更吃重。設計必須同時顧及路徑密度、訊號損耗、電力與散熱,並非層數越多就一定越好。