NVL72 整机架分配反而少 27% 可用 GPU：调度器得先看懂拓扑
一台 NVL72 机架把 72 张 GPU 用统一 NVLink 连成一个域，出了机架只剩 400 Gb/s 单向的 InfiniBand，把机架当原子单位分配会放大故障影响。
要点
- 机架内每张卡双向带宽 1.8 TB/s；同一份分布式训练从 NVLink 换到 InfiniBand，吞吐掉 43%
- 生产 NVL72 集群实测节点不可用率约 2%：按此建模，16 节点切片比 18 节点整机架切片多 27% 可用容量（2037 对 1602 节点）
- 每机架留 2 个备用节点，单节点故障可原地热替换；16 节点正好 64 张 GPU，和常见并行组大小对得上
- 512 张 GB300 上预训练 GR00T N1.7，机架感知调度把每次迭代从 1.59 秒压到 1.39 秒，吞吐升 14.4%
阅读原文这里是中文要点整理，数字与细节以原文为准。
评论
还没有评论，来写第一条。