Cohere: суверенитет корпоративного AI требует контроля над всем стеком агентов

Фото: images.ctfassets.net
Краткий ответ
Корпоративный суверенитет в AI требует полного контроля над стеком технологий: от инфраструктуры до агентных фреймворков.
На конференции VB Transform 2026, посвященной применению генеративных AI-агентов в бизнесе, вице-президент по продуктам канадского стартапа Cohere Рашад Алао поделился видением корпоративного суверенитета в сфере искусственного интеллекта. По его словам, истинная независимость предприятий от вендоров и соответствие регуляторным нормам возможны только при полном контроле над технологическим стеком — от аппаратной инфраструктуры до агентных фреймворков и систем управления данными.
Алао, ранее работавший в командах по ответственному AI в Google и Meta*, отметил, что суверенитет не ограничивается запуском моделей за корпоративным файрволом. Критически важные отрасли, такие как финансы и здравоохранение, должны самостоятельно определять, где хранятся данные и как обрабатываются запросы. Это касается не только GPU и частных облаков, но и систем маршрутизации между моделями, инструментов поиска и агентных фреймворков, работающих с корпоративными данными.
Эксперт также опроверг тезис о том, что снижение стоимости инференса делает локальные модели неактуальными. По его словам, переход к сложным AI-агентам, способным выполнять многоэтапные задачи, резко увеличивает потребление токенов. Cohere предлагает альтернативную модель ценообразования, не привязанную к объему токенов, что позволяет предприятиям оптимизировать затраты и использовать модели, соответствующие конкретным задачам.
Для демонстрации подхода Алао привел пример крупного канадского банка, который использует локальные модели Cohere для регулируемых процессов, а менее критичные задачи перенаправляет на более мощные облачные модели через платформу North. Компания также представила новые решения, включая модель Command A+ с 218 млрд параметров и открытую модель North Mini Code для разработчиков, оптимизированную под работу на одном GPU Nvidia H100.
* Facebook, Instagram, WhatsApp и другие сервисы Meta — принадлежат компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Частые вопросы
- Почему предприятиям важен контроль над AI-инфраструктурой?
- Контроль над инфраструктурой позволяет организациям соблюдать регуляторные требования, защищать конфиденциальные данные и избегать зависимости от конкретных вендоров. Это особенно критично для банков, медицинских учреждений и государственных структур.
- Как Cohere предлагает оптимизировать использование AI-моделей?
- Cohere рекомендует маршрутизировать задачи между моделями в зависимости от их сложности и чувствительности данных. Например, для регулируемых процессов использовать локальные модели, а для менее критичных задач — более мощные облачные решения.
- Какие преимущества дают небольшие локальные модели?
- Небольшие модели, такие как North Mini Code, эффективны для 80% типовых задач, снижают затраты на инференс и требуют меньше аппаратных ресурсов, что делает их оптимальными для корпоративного использования.
Лента для Дзен: /feed/dzen.xml · RSS: /feed.xml