Бум искусственного интеллекта привел к большому спросу на компоненты для серверов. Вначале был дефицит специализированных графических процессоров, потом начался дефицит памяти, что повлияло на весь глобальный рынок памяти. Теперь Amazon и другие крупные поставщики облачных услуг столкнулись с недостаточным количеством центральных процессоров. По мнению аналитиков, сейчас главным сдерживающим фактором для расширения вычислительной инфраструктуры стали CPU.
Ранее основные задачи при работе ИИ и вывода данных ложились на GPU. Но современные модели ИИ становятся сложнее, теперь агентские ИИ требуют много обращений к базам данным и взаимодействия с другими задачами, что больше зависит от CPU. Это привело к увеличению количества CPU в центрах обработки данных. Если ранее на 8 GPU в среднем приходился один CPU, то сейчас соотношение между ними постепенно выравнивается. Спрос на процессоры так вырос, что крупные облачные провайдеры уже использовали все доступные CPU. Якобы Amazon и Microsoft направили все мощности CPU для компаний, которые занимаются ИИ, включая гигантов OpenAI и Entropic. Amazon ежегодно утраивает закупку CPU, но сейчас этого мало, и компания не может удовлетворить свой спрос.
Высокий спрос в сегменте ИИ приведет к тому, что поставщики будут увеличивать производство серверных моделей. И это касается как процессоров x86, так и процессоров ARM. В первом случае основными поставщиками являются AMD и Intel. Но также NVIDIA активно наращивает выпуск процессорных систем с CPU Vera и GPU Rubin. Это ведет к высокой загрузке производственных линий в ущерб производству потребительских моделей, что может спровоцировать дефицит уже в сегменте процессоров.
Источник:
Wccftech