容量=桌面有多大
GB 越多,能放下的模型與工作資料通常越多;實際還要預留快取、執行時資料與軟體空間。
深入記憶體小鎮 →比較各大廠的商品規格,看懂差異會影響什麼。
比較基準:單顆加速器,不是整台伺服器。規格查核:2026-09-16。收錄不同世代,並非最新產品的完整清單。
| 產品/架構 | 記憶體 | 頻寬上限 | 公司 |
|---|---|---|---|
| NVIDIA H200 SXM Hopper | 141 GB HBM3e | 4.8 TB/s | 個股與公司 ↗ |
| NVIDIA B200 SXM Blackwell | 180 GB HBM3e | 8 TB/s | 個股與公司 ↗ |
| NVIDIA B300 SXM Blackwell Ultra | 288 GB HBM3e | 8 TB/s | 個股與公司 ↗ |
| AMD Instinct MI355X CDNA 4 | 288 GB HBM3E | 8 TB/s | 個股與公司 ↗ |
| Intel Gaudi 3 Gaudi 3 | 128 GB HBM2e | 3.7 TB/s | 個股與公司 ↗ |
GB 越多,能放下的模型與工作資料通常越多;實際還要預留快取、執行時資料與軟體空間。
深入記憶體小鎮 →TB/s 描述記憶體與運算核心間的資料流量。頻寬較高可能改善資料搬運瓶頸,不代表每種工作都按比例加速。
還要比較模型、數值精度、軟體支援、互連、功耗及實際測試。同樣 288 GB 的兩款產品,也可能適合不同部署。
看運算晶片與公司 →