NVIDIA GB200与DGX B200技术详解

高性能互连与计算架构对比

GPU互连架构对比
Blackwell GPU互连技术 GB200 NVL • 第五代NVLink • GPU间带宽130TB/s DGX B200 • 内置2个NVSwitch • GPU间带宽14.4TB/s NVLink带宽技术细节 单条NVLink连接: 双向100GB/s带宽 每个Blackwell GPU: 1.8TB/s双向吞吐量 HBM3e显存带宽: 8TB/s (单GPU)
  • GB200 NVL采用外部NVSwitch Tray实现72/36个GPU全互联
  • DGX B200内置2个NVSwitch芯片连接8个Blackwell GPU
  • 每个Blackwell GPU配有18个NVLink端口,每端口100GB/s
GB200 NVL与DGX B200对比
系统配置详细对比 技术规格 GB200 NVL DGX B200 CPU 36x Grace CPU 2x Intel Xeon 8570 GPU 72x Blackwell 8x Blackwell GPU内存 13.5TB HBM3e 1.44TB HBM3e FP8训练性能 720 PFLOPS 72 PFLOPS FP4推理性能 1,440 PFLOPS 144 PFLOPS 外部网络 72x 400G OSFP 8x 400G OSFP 散热方式 液冷 风冷 系统功耗 120KW 14.3KW
  • DGX B200采用Intel Xeon处理器,GB200 NVL采用Grace ARM CPU
  • DGX B200提供更紧凑的设计:10RU,易于在传统数据中心部署
  • GB200 NVL性能更强,但需要专业数据中心基础设施支持
< >