NVLink带宽

本文目录导读：

1. 关键数据速览
2. 详细代际解读
3. 重要概念澄清
4. 总结表格（最常用代际）

NVLink 的带宽取决于其代际（Generation）、物理配置（链路数量）以及具体的实现方式（如NVSwitch）。

截至2025年5月,主流的NVLink版本及其带宽如下：

关键数据速览

注意： 表中的“单条链路双向带宽”是指每个物理SerDes通道（NRZ或PAM4编码）的双向总速率。

详细代际解读

NVLink 5.0 （当前最新， 2024-2025年推出）

• 代表GPU： Grace Hopper （GH200）、 Blackwell （B200， GB200）。
• 单链路速度： 每个方向 100 GB/s（使用PAM4信令技术）。
• 总带宽：
  • 在 HGX B200 8-GPU 底座中，每颗GPU拥有 18条NVLink 5.0链路，总双向带宽可达 8 TB/s。
  • GB200（Grace Blackwell） 超级芯片通过NVLink-C2C连接CPU和GPU，带宽高达 900 GB/s（双向）。
• 意义： 性能接近PCIe 5.0 x16带宽的 14倍（PCIe 5.0 x16单向约32GB/s，双向64GB/s）。

NVLink 4.0 （主流， 2022年推出）

• 代表GPU： H100、H200。
• 单链路速度： 每个方向 50 GB/s（采用PAM4编码，但信号速率低于5.0）。
• 总带宽：
  • H100 SXM：每颗GPU配备 18条 NVLink 4.0链路，总双向带宽 900 GB/s。
  • H100 PCIe / H100 NVL：通常为更少的链路（如4或6条），带宽在200-600GB/s之间。
• 意义： 是PCIe 4.0 x16带宽的 7倍 以上。

NVLink 3.0 （过渡/基础， 2020年推出）

• 代表GPU： A100。
• 单链路速度： 每个方向 50 GB/s。
• 总带宽： 每颗GPU配备 6条 NVLink 3.0链路，总双向带宽 600 GB/s。
• 意义： 首次实现了与NVSwitch的桥接，支持8 GPU全互联。

NVLink 2.0 （上一代， 2017年推出）

• 代表GPU： V100。
• 单链路速度： 每个方向 25 GB/s。
• 总带宽： 每颗GPU配备 6条 NVLink 2.0链路，总双向带宽 300 GB/s。

重要概念澄清

• 单向 vs 双向： NVLink是一个双向对称接口，宣传页面上通常写双向带宽（H100 的 900 GB/s），这意味着它在同一根线缆上可以同时发送和接收数据，各占一半（450GB/s 发送 + 450GB/s 接收）。
• PCIe 对比： NVLink 是专门为GPU间通信设计的低延迟、高带宽协议，用于消除PCIe总线的瓶颈，PCIe 5.0 x16的单向带宽约32GB/s，而单条NVLink 5.0链路就已经是它的3倍多。
• NVSwitch： 在大规模集群（如 DGX H100/B200）中，GPU物理上通过NVLink连接到中间的NVSwitch，而不是直接在两两之间连满，NVSwitch负责提供全互联（All-to-All）的带宽矩阵。

总结表格（最常用代际）

如果您问的是当前最主流的NVLink带宽：

• H100 (NVLink 4.0) 是 900 GB/s (双向).
• B200 (NVLink 5.0) 是 1.8 TB/s (双向).

这两个数字是目前AI超算配置中最常提到的带宽指标。