Как LinkedIn***, Walmart и Zendesk преодолели инфраструктурные барьеры для AI-агентов

На конференции VB Transform 2026 представители LinkedIn***, Walmart и Zendesk поделились выводами о ключевых препятствиях при внедрении AI-агентов. Главной проблемой оказалась не производительность самих моделей, а инфраструктура, не адаптированная к скорости работы агентов. Системы, изначально спроектированные для взаимодействия с людьми, не справляются с требованиями миллисекундных задержек.

LinkedIn*** столкнулась с ограничениями Kubernetes, где динамическое выделение контейнеров занимало секунды — слишком долго для AI-агентов. Решением стало создание предварительно подготовленных пулов контейнеров, которые мгновенно переключаются между рабочими нагрузками. Также компания пересмотрела подход к оркестрации: вместо оценки LLM другим LLM внедрили детерминированные процессы, где 80% логики реализовано в виде скриптов, а модели используются только для задач, требующих рассуждений.

Walmart столкнулась с неожиданным вызовом: внутренний инструмент для создания AI-агентов стал настолько популярным, что сотрудники начали разрабатывать собственные решения, дублируя функции. Вместо ограничения доступа компания внедрила систему управления, которая автоматически выявляет дубликаты, отбирает лучшие версии и интегрирует их в продакшен без участия инженеров. Zendesk, в свою очередь, отказалась от идеи загружать 20 миллиардов клиентских обращений в LLM с широким контекстом. Вместо этого компания инвестировала в модернизацию инфраструктуры данных, чтобы обеспечить более точное и эффективное взаимодействие агентов с информацией.

Все три компании сошлись во мнении, что ключ к успеху — независимость от конкретных моделей и провайдеров. LinkedIn*** создала универсальный шлюз для взаимодействия с моделями, Walmart внедрила гибкую архитектуру для разных типов рабочих нагрузок, а Zendesk сделала ставку на владение собственной инфраструктурой. Эксперты рекомендуют начинать с разработки систем оценки, внедрять инструменты для сотрудников на ранних этапах и строить архитектуру, независимую от моделей и контекста.