Компания AMD представила новую локальную модель генеративного ИИ совместно со Stability AI. Это Stable Diffusion 3.0 Medium для качественной генерации изображений по текстовому описанию. Модель сочетает в себе точность генерации FP16 и производительность INT8 с оптимизацией для нейронных сопроцессоров XDNA 2 в составе современных процессоров Ryzen AI.
Эта модель для локальной работы, которую можно опробовать уже сейчас на ноутбуках с процессорами AMD Ryzen AI через приложение Amuse 3.1. Данная модель использует формат данных BF16 и отличается сниженными требованиями к памяти. Это позволяет получать качественные изображения без чрезмерного квантования. Заявлено, что SD 3.0 Medium легко работает на ноутбуках с 24 ГБ памяти, используя около 9 Гб памяти.
Также двухступенчатый конвейер на базе нейросетевого процессора AMD XDNA 2 улучшает выходное изображение 2 МП (1024×1024) до разрешения 4 МП (2048×2048), обеспечивая изображения высокого качества. И все это локально без онлайновых сервисов.
Для работы SD 3.0 Medium нужно скачать последний драйвер Adrenalin, установить Amuse 3.1 Beta и включить в EZ Mode режим XDNA 2 Stable Diffusion Offload. Все ссылки доступны на официальном сайте.