Amazon: надёжность ИИ-агентов важнее их возможностей для бизнеса

По данным Cisco, 85% предприятий экспериментируют с ИИ-агентами, но лишь 5% перешли к их полномасштабному использованию. Брайан Силверторн, директор Amazon по автономному AGI, на конференции VB Transform 2026 объяснил, что причина кроется не в ограниченных возможностях моделей, а в их ненадёжности в реальных условиях.

Силверторн предложил разделить надёжность на четыре ключевых аспекта: согласованность, устойчивость, предсказуемость и безопасность. Этот подход, основанный на исследованиях Принстонского университета, помогает выявить слабые места агентов до их внедрения. Например, один из клиентов Amazon столкнулся с проблемой: ИИ-агент для проверки ПО стабильно работал два месяца, но затем начал ошибаться при извлечении серийных номеров с экрана из-за изменений в расположении данных.

В Amazon используют необычный подход к управлению ИИ-агентами: их называют «стажёрами», подчёркивая, что они способны на впечатляющие результаты, но требуют контроля и резервных механизмов. Силверторн подчеркнул, что успех внедрения зависит не только от технологий, но и от управленческих навыков: нужно заранее продумывать возможные риски и способы их минимизации.

Для компаний, застрявших на этапе пилотных проектов, Силверторн советует изменить подход: вместо проверки разовых успехов агентов тестировать их стабильность в тысячах повторений. Также важно не полагаться только на оценки разработчиков моделей, а создавать собственные системы тестирования, учитывающие специфику бизнеса.