Tencent выпустила веса модели Hy4: флагманский AI с контекстом в миллион токенов

Фото: TechNode
Краткий ответ
Tencent выпустила веса своей флагманской AI-модели Hy4, которая поддерживает текст, изображение и видео. Модель имеет контекстное окно в 1 миллион токенов, 770 миллиардов параметров и доступна для коммерческого…
Tencent официально выпустила веса своей флагманской AI-модели Hy4. Этот релиз позволяет разработчикам загружать и самостоятельно развертывать мощную модель, открывая новые возможности для коммерческих и исследовательских проектов. Модель была представлена ранее 4 ноября, но выпуск весов под лицензией Apache 2.0 делает ее по-настоящему доступной для широкого круга пользователей.
Hy4 — это мультимодальная система, способная понимать не только текстовые данные, но и изображения, а также видео. Технически модель построена на архитектуре Mixture-of-Experts и содержит 770 миллиардов параметров, при этом для обработки каждого токена активируется 49 миллиардов из них. Ее ключевое преимущество — контекстное окно, достигающее одного миллиона токенов.
По данным Tencent, модель Hy4 демонстрирует значительные улучшения по сравнению с предварительной версией. Улучшения касаются способности следовать инструкциям, глубокого понимания длинного контекста, выполнения сложных задач и исследовательских приложений. Это делает ее мощным инструментом для автоматизации и инноваций.
Модель поддерживает широкий спектр рабочих процессов — от работы с графическими интерфейсами и командными строками до разработки фронтенда, игр и офисных приложений. Для упрощения внедрения Tencent предоставила инструкции по развертыванию с использованием vLLM и SGLang, а также ресурсы для тонкой настройки и карты оценки безопасности.
Частые вопросы
- Какова ключевая особенность модели Hy4?
- Главная особенность Hy4 — это ее способность обрабатывать мультимодальный контент (текст, изображение, видео) при поддержке контекстного окна объемом до одного миллиона токенов.
- Какая лицензия используется для Hy4?
- Модель распространяется под лицензией Apache 2.0, что позволяет разработчикам использовать ее в коммерческих целях и модифицировать.
Лента для Дзен: /feed/dzen.xml · RSS: /feed.xml