Ажіотаж навколо чат-бота ChatGPT та інших генеративних нейромереж не залишився поза увагою Nvidia. Спеціально для запуску великих мовних моделей, на кшталт сімейства GPT від компанії OpenAI, «зелений» чипмйкер підготував прискорювач H100 NVL. Це здвоєна модифікація H100 зі збільшеним об'ємом та пропускною здатністю пам'яті.
Прискорювач Nvidia H100 NVL фактично є двома картами розширення PCI Express 5.0 x16, об'єднаними за допомогою інтерфейсу NVLink (600 Гбайт/с). У сервері такий пристрій займе чотири слоти. Кожна половинка виконана на 4-нм процесорі GH100, характеризується максимальним TDP 350-400 Вт та забезпечує обчислювальну потужність рівня SXM-версії H100.
Процесор Nvidia GH100
Втім, головна «фішка» прискорювача у підсистемі пам'яті. У новому варіанті процесора GH100 активно шість стеків багатошарової пам'яті HBM3, тоді як випущені раніше версії були обмежені п'ятьма. Це не лише збільшило обсяг буфера, але й підвищило його пропускну здатність. Специфікації прискорювача Nvidia H100 NVL, а також модифікацій SXM та PCIe, зібрані у таблиці.
Реліз Nvidia H100 NVL заплановано на другу половину цього року. Щодо ціни пристрою інформації не надходило.