В останні місяці ми спостерігаємо вибухове зростання популярності генеративних нейромереж, особливо чат-бота ChatGPT. Устаткування Nvidia є основним для забезпечення функціонування таких мереж, і зростання навантаження веде до необхідності розширення серверної підтримки.

За даними FierceElectronics, на початку для навчання ChatGPT використовувалося 10 тисяч спеціалізованих прискорювачів NVIDIA. Але після зростання популярності система була перевантажена і не могла забезпечувати потреби великої бази користувачів. Тому було запущено платну передплату ChatGPT Plus за 20 доларів, яка забезпечує пріоритетний доступ. За даними аналітиків, поточна модель штучного інтелекту ChatGPT вже використовує 25 тисяч прискорювачів Nvidia. Нещодавно Microsoft інтегрувала ChatGPT у пошуковик Bing, що, очевидно, також призведе до розширення серверної бази для забезпечення роботи нейромережі.

Google планує інтегрувати у свою пошукову систему аналог ChatGPT. Фахівці вже прикинули, що для розгортання такого ШІ потрібно 512820 серверів Nvidia A100 HGX з 4102568 графічними процесорами A100. Це вимагатиме величезних капіталовкладень на рівні 100 мільярдів доларів. Поки що це теоретичні викладки, але вони дозволяють оцінити потенціал даного сегменту ринку.

Наразі всі високопродуктивні системи глибокого навчання використовують обладнання Nvidia. Багато бібліотек і фреймворків глибокого навчання, наприклад TensorFlow і PyTorch, мають вбудовану підтримку CUDA та оптимізовані для графічних процесорів Nvidia. Тому всі ці перегони у сфері ШІ обіцяють Nvidia рекордні доходи.

Для звичайних користувачів ситуація може виявитися зовсім іншою. Попит у сегменті спеціалізованих прискорювачів скоро перевищить пропозицію. Це може змусити Nvidia збільшити виробництво спеціалізованих прискорювачів на шкоду рішенням для масового ринку. Не виключена ситуація, коли ми знову побачимо дефіцит та завищені ціни на ігрові відеокарти, як це було під час майнінгової лихоманки.

Джерело:
Wccftech

Цього тижня у продаж надійшли ноутбуки з графічними прискорювачами GeForce RTX 4080 і RTX 4090. У Мережі вже є багато оглядів, що розповідають про рівень продуктивності мобільних Ada Lovelace, проте редакції ComputerBase цього здалося мало. Закордонні колеги вирішили з'ясувати, наскільки сильно залежить швидкодія новинок від рівня TGP (Total Graphics Power).

Залежно від моделі ноутбука виробники встановлюють TGP для GeForce RTX 4080 Laptop в діапазоні від 60 до 150 Вт, а GeForce RTX 4090 Laptop — від 80 до 150 Вт. Відеоадаптери також можуть отримати 25-ватну надбавку завдяки технології Dynamic Boost.

Для експериментів німецькі колеги використовували MSI Titan GT77HX на базі GeForce RTX 4090 й Core i9-13950HX, а також XMG Neo 16 з процесором Core i7-13700HX і графікою GeForce RTX 4080. Обидві платформи оснащені 150-ватними відеоадаптерами. Виміри швидкодії проводилися у грі Shadow Warrior 3 при роздільній здатності 1440p та максимальних налаштуваннях якості.

Цікаві висновки закордонних колег:

• 150-ватна GeForce RTX 4080 Laptop забезпечує продуктивність рівня 125-ватної GeForce RTX 4090 Laptop;
• максимально урізана конфігурація мобільної GeForce RTX 4090 (80 Вт) на 30 відсотків продуктивніша за максимально урізану GeForce RTX 4080 (60 Вт);
• в діапазоні від 80 до 150 Вт лінії fps/ват в обох моделей йдуть майже паралельно. Ближче один до одного ноутбучні GeForce RTX 4090 та RTX 4080 знаходяться при невисоких значеннях TGP;
• для досягнення продуктивності GeForce RTX 4090 Laptop мобільній GeForce RTX 4080 знадобляться додаткові 20 Вт потужності.