NVIDIA DGX B200系统详解

用于训练、微调和推理的完整AI平台

DGX B200系统
NVIDIA DGX B200系统
点击查看大图
核心特性
系统配置
配备8个NVIDIA Blackwell GPU,搭载双5代英特尔Xeon可扩展处理器。作为NVIDIA DGX BasePOD和DGX SuperPOD的基础设施。
计算性能
• FP8训练性能:72 petaFLOPS
• FP4推理性能:144 petaFLOPS
• 训练速度:比DGX H100提升3倍
• 推理速度:比DGX H100提升15倍
GPU内存
总计1.4TB的GPU内存空间,HBM3e显存带宽达64TB/s。单机总内存最高可配置4TB。
互联技术
配备2个NVIDIA NVSwitch,采用NVLink技术,提供14.4TB/s的全互联GPU带宽,支持8个GPU之间的高速数据传输。
网络连接
4个OSFP端口连接8个单端口NVIDIA ConnectX-7 VPI,支持高达400Gb/s的NVIDIA InfiniBand/以太网;2个双端口QSFP112 NVIDIA BlueField-3 DPU。
存储系统
操作系统:2个1.9TB NVMe M.2;内部存储:8个3.84TB NVMe U.2,提供高速数据读写能力。
系统功耗
最大功耗约14.3kW,支持高负载AI训练和推理工作负载。
软件支持
搭载NVIDIA AI Enterprise优化AI软件和NVIDIA Mission Control数据中心运营与编排系统,支持Run:ai技术,操作系统采用NVIDIA DGX OS/Ubuntu。
< >
全屏图片
×