NVIDIA снизила пропускную способность памяти и NVLink в платформе Vera Rubin
NVIDIA без публичного анонса обновила официальные спецификации платформы Vera Rubin. Правки внесли в первой половине сентября: они затронули пропускную способность памяти HBM4 и интерконнекта NVLink шестого поколения, а пропускную способность внешних сетевых интерфейсов, наоборот, увеличили.
У отдельного графического процессора Rubin пропускная способность HBM4 снизилась с 22 до 19,2 ТБ/с (на 12,7%), скорость NVLink 6 — с 3,6 до 3,0 ТБ/с (на 16,7%). Объём памяти остался прежним — 288 ГБ.
В стоечной конфигурации Vera Rubin NVL72 с 72 ускорителями Rubin и 36 процессорами Vera общая пропускная способность HBM4 сократилась с 1580 до 1400 ТБ/с, а фабрики NVLink — с 260 до 216 ТБ/с. При этом пропускная способность внешних сетевых интерфейсов выросла с 28,8 до 32,4 ТБ/с (на 12,5%).
Сильнее всего изменились серверы HGX Rubin NVL8: пропускная способность подсистемы памяти уменьшилась на 26,1% — с 176 до 130 ТБ/с, объём HBM4 — с 2,3 до 2,0 ТБ, коммутация NVLink Switch — с 28,8 до 24,0 ТБ/с. Пиковая производительность на разреженных матрицах NVFP4 осталась на уровне 50 PFLOPS на чип, но показатели обучения платформы просели: с 280 до 270 PFLOPS в NVFP4 и со 140 до 130 PFLOPS в FP8/FP6.
Официальных комментариев NVIDIA пока нет. Отраслевые аналитики связывают пересмотр с трудностями производителей памяти при массовом выпуске 12-слойных стеков HBM4 на проектных частотах: снижение требований к пиковой пропускной способности позволяет повысить выход годных кристаллов и стабилизировать поставки. Как изменения отразятся на реальной производительности, будет зависеть от архитектуры конкретных нейросетевых моделей и их чувствительности к задержкам передачи данных между узлами кластера.