Обчислення штучного інтелекту залежать не тільки від потенціалу чипа, але й від пам’яті. Зараз пам’ять HBM є основною для спеціалізованих GPU, але різні технологічні компанії шукають альтернативні варіанти. Над таким варіантом працює компанія d‑Matrix — її інженери розробляють особливу пам’ять із технологією 3DIMC, яка буде в 10 разів швидшою і в 10 разів ефективнішою за HBM.
У модулях HBM висока пропускна здатність забезпечується завдяки об’єднанню в стек кількох шарів. Це найкраще продуктивне рішення для завдань різного спектра. А d‑Matrix пропонує більш спеціалізований варіант для обчислень ШІ, який об’єднає комірки пам’яті з можливістю обчислень прямо в цьому ж модулі. Фахівці вже створили дослідні зразки чипів d‑Matrix Pavehawk 3DIMC. Це кристали пам’яті LPDDR5 зі встановленими зверху чиплетами DIMC, які під’єднані через шар interposer. DIMC складається з логічних елементів, які налаштовані на множення матриці на вектор — основний метод обчислень для моделей штучного інтелекту на основі трансформації (transformer-based AI).
Пам’ять 3DIMC дає змогу переосмислити весь підхід до обчислень ШІ завдяки тісній інтеграції пам’яті та обчислень. Такі тривимірні модулі забезпечать підвищену пропускну здатність, скоротять затримки та підвищать загальну ефективність обчислювальної системи. Дослідні зразки Pavehawk доступні в лабораторії, а компанія вже працює над прототипом наступного покоління 3DIMC Raptor, яке буде в 10 разів швидшим за HBM у завданнях виведення (інференс) та на 90% енергоефективнішим.
Поки це все дослідні зразки. Але судячи з усього, компанія d‑Matrix налаштована на те, щоб довести розробку до етапу комерційного впровадження.
Джерело:
Tom’s Hardware