57% компаний столкнулись с ошибками ИИ-агентов из-за неверного контекста

Исследование VentureBeat выявило, что 57% крупных компаний сталкивались с ситуациями, когда ИИ-агенты предоставляли неверные данные с высокой степенью уверенности. В 31% случаев такие ошибки повторялись неоднократно. Основная причина — некорректный или неполный бизнес-контекст, который передается моделям. Чаще всего проблема возникает из-за устаревших определений метрик или документов, которые не были учтены системой поиска.

Большинство предприятий (38%) используют для получения контекста системы поиска по документам, причем простота внедрения и эксплуатации часто ставится выше точности. Это приводит к тому, что ошибки обнаруживаются только после запуска системы в продакшен. Эксперты сходятся во мнении, что решение проблемы — создание управляемого контекстного слоя, который обеспечивает единое понимание бизнес-данных для всех агентов.

Пока лишь 25% компаний внедрили такой слой в продакшен, 34% находятся на стадии разработки, а 41% еще не приступили к реализации. Вендоры предлагают разные подходы: Microsoft, Google, AWS и другие разрабатывают собственные архитектуры, но единого стандарта пока нет. Аналитики отмечают, что ключевая задача — интеграция структурированных и неструктурированных данных, чтобы агенты получали полный и актуальный контекст.

Компании, уже столкнувшиеся с ошибками ИИ-агентов, активнее внедряют управляемые контекстные слои. 81% из них планируют сменить или дополнить текущие системы в течение года. Для остальных предприятий приоритетность задачи ниже, но тренд на централизацию контекста набирает обороты.