Google представила DiffusionGemma — самую быструю ИИ-модель с компромиссом

Google выпустила экспериментальную модель искусственного интеллекта DiffusionGemma, которая предлагает принципиально новый подход к генерации текста. Вместо последовательного формирования текста по словам, как это делают традиционные модели вроде Gemma 4, DiffusionGemma создаёт сразу целый блок текста, а затем многократно его дорабатывает. Такой метод позволяет значительно ускорить процесс, но приводит к снижению качества итогового результата.

По заявлениям Google, DiffusionGemma способна генерировать текст до четырёх раз быстрее стандартных авторегрессивных моделей. На высокопроизводительном оборудовании, таком как NVIDIA H100, модель достигает скорости более 1000 токенов в секунду, а на RTX 5090* — около 700 токенов в секунду. Это делает её перспективным инструментом для задач, где важна скорость, а не идеальная точность, например, для реального времени или интерактивных помощников.

Модель основана на архитектуре Mixture-of-Experts с 26 млрд параметров, но во время работы задействует лишь около 3,8 млрд из них. Это позволяет снизить требования к вычислительным ресурсам и запускать модель на высокопроизводительных потребительских GPU при квантизации, с минимальным объёмом видеопамяти около 18 ГБ. DiffusionGemma особенно эффективна для структурированных задач, таких как заполнение пропусков в коде, работа с форматами JSON или решение логических головоломок.

Однако у новой модели есть и недостатки. Качество генерируемого текста уступает традиционным решениям, таким как Gemma 4. Текст может быть менее связным и точным, что ограничивает применение DiffusionGemma в задачах, требующих высокой точности. Google позиционирует её как экспериментальный инструмент для сценариев, где важна скорость и оперативная обратная связь, а не идеальное качество.

Модель доступна разработчикам и исследователям под лицензией Apache 2.0. Она не предназначена для замены существующих моделей Gemini или Gemma, а скорее демонстрирует альтернативный подход к генерации текста, где скорость и эффективность ставятся выше качества.