Сейчас компания NVIDIA является лидером на рынке оборудования для искусственного интеллекта. Но руководство продолжает искать новые таланты и стартапы для привлечения в свою команду. Объявлено о крупной сделке на $20 миллиардов с компанией Groq, которая разрабатывала чипы для ИИ на собственной уникальной архитектуре. Сначала в СМИ была информация о поглощении компании. Но потом появились уточнения, что это сделка по типу «Reverse Acqui-hire», когда речь идет не о полной покупке, а о привлечении ведущих специалистов и лицензировании технологий. Это позволяет избежать расследования со стороны антимонопольного законодательства, но по факту NVIDIA все равно получит доступ ко всем разработкам Groq.

Это очень крупная сделка и она может заложить основы для движения NVIDIA в новых направлениях. По мере развития сферы ИИ начинается постепенное разделение на оборудование для обучения и логического вывода (инференса). Обучение требует более высокой пропускной способности и высокой скорости выполнения арифметических операций, для чего современные GPU получают множество специализированных тензорных ядер. А для крупных облачных провайдеров основной из главных задач становится именно инференс с низкими задержками. Groq занимается разработкой специализированных чипов LPU (Language Processing Units) для этой сферы. Данные чипы используют особенную память SRAM, что выделяет их на фоне всех остальных решений.

Ранее Groq представила два передовых решения — GroqChip и GroqCard. Согласно информации в официальных документах, эти чипы имеют 230 МБ встроенной SRAM с пропускной способностью до 80 ТБ/с. Использование SRAM является одним из ключевых преимуществ LPU, поскольку позволяет значительно снизить задержки и обеспечить лучшее энергопотребление на токен. В целом архитектура LPU полностью предназначена для потребностей гипермасштабируемых компаний в области инференса, но это узкоспециализированное оборудование, которое не является определенным стандартом. И именно интеграция с NVIDIA обеспечит возможность массового внедрения таких чипов в сферу ИИ.

Источник:
Wccftech