Компания рассказала о своем новом чипе Blackwell Ultra, который лежит в основе ускорителей NVIDIA GB300 для вычислений искусственного интеллекта. Это второе поколение на основе архитектуры Blackwell с рекордным объемом памяти HBM3E в 288 ГБ.

Чип использует два кристалла GPU, которые объединены интерфейсом NV-HBI со скоростью 10 ТБ/с. Весь чип насчитывает примерно 2088 миллиардов транзисторов. Каждый из двух кристаллов GPU насчитывает 160 SM по 128 ядер CUDA в каждом. То есть у одного кристалла всего 20480 ядер CUDA вместо 18432 у первой версии Blackwell. Графический процессор оснащен тензорными ядрами пятого поколения с поддержкой вычислений в формате FP8, FP6 и в новом формате NVFP4. У каждого SM по 256 КБ тензорной памяти и 40 МБ тензорной памяти на кристалл. Также есть дополнительные блоки для специальных математических функций. Память набрана восемью стеками HBM3E общим объемом 288 ГБ (у первой версии Blackwell было 192 ГБ). Пропускная способность памяти осталась на прежнем уровне 8 ТБ/с. Пиковая производительность чипа Blackwell Ultra достигнет 15 PetaFLOPS в режиме NVFP4 вместо 10 PetaFLOPS у Blackwell первого поколения. Параметр энергопотребления TGP повышен до 1400 Вт.

Такой вычислительный монстр является основной для суперчипа NVIDIA Grace Blackwell Ultra GB300, который состоит из двух чипов Blackwell Ultra и одного центрального процессора Grace. Обмен данными между графическими чипами происходит по шине NVLink‑C2C. Потенциал такого устройства 30 PFLOPS в NVFP4 или 40 PFLOPS в режиме sparse. Сетевые адаптеры ConnectX‑8 SuperNIC обеспечивают высокоскоростное сетевое подключение со скоростью 800 Гбит/с.

Такие суперчипы являются основным элементом для стоечных серверных систем NVIDIA GB300 NVL72. Внутри такой стойки объединено 36 устройств Grace Blackwell Ultra с рекордной производительностью до 1,1 exaFLOPS. Такие системы используют водяное охлаждение и инновационные технологии в управлении питанием.

NVIDIA заявляет, что GB300 уже находятся на стадии массового производства и поставляются первым заказчикам. В следующем году будут представлены устройства на архитектуре Rubin, разработка которой уже завершена.

Источники:
NVIDIA
Videocardz