В рамках конференции SIGGRAPH 2023 компания Nvidia представила новое поколение платформы GH200 Grace Hopper для вычислений в области искусственного интеллекта. Это специализированный «суперчип», который включает CPU с 72 ARM-ядрами, GPU Hopper H100 с 96 ГБ памяти HBM3, плюс 480 ГБ памяти LPDDR5X. Теперь Nvidia переводит устройство на графическую память HBM3e большего объема и с большей пропускной способностью.
У памяти HBM3e скорость передачи данных на 50% выше в сравнении с существующим стандартом HBM3, обеспечивая пропускную способность до 5 ТБ/с на чип и до 10 ТБ/с для двухчиповой системы GH200. Локальная память графического процессора Hopper расширена с 96 ГБ до 144 ГБ (6 стеков HBM3e по 24 ГБ). Этой самый быстрый графический процессор для ИИ в мире с самым большим объемом памяти.
Обновленные системы Nvidia GH200 Grace Hopper полностью совместимы с серверной архитектурой NVIDIA MGX. Это позволит заказчикам сочетать разные системы. Также возможна простая миграция на обновленную версию GH200. При этом поставки GH200 первой версии начнутся только в текущем году. А второе поколение GH200 с HBM3e будет доступно со второго квартала 2024 года.
Источник:
Anandtech