Почему ИИ-агенты становятся причиной инфраструктурных сбоев?

Агенты действуют автоматически, не учитывая контекст системы. Они могут инициировать каскадные сбои, например, перезапуская кластер без анализа текущей нагрузки других сервисов.

Как предприятия могут предотвратить сбои от ИИ-агентов?

Внедрить модель «резерва устойчивости», которая оценивает способность системы выдерживать нагрузки в реальном времени и блокирует действия агентов при недостаточном запасе прочности.

Какие ограничения есть у LLM при прогнозировании сбоев от ИИ-агентов?

LLM могут выявлять риски на основе исторических данных, но не учитывают изменения в инфраструктуре после обновлений. В неоднозначных ситуациях решения должен принимать человек.

Какие данные Gartner приводят о внедрении ИИ-агентов в корпоративное ПО?

К 2028 году треть корпоративного ПО будет включать агентный ИИ, но 40% таких проектов будут закрыты из-за слабого контроля рисков.

← 全部新闻

人工智能

AI 代理如何悄悄扰乱企业基础设施

2026年5月26日

图片： VentureBeat

简要回答

ИИ-агенты в корпоративных системах вызывают скрытые сбои, не фиксируемые традиционными методами мониторинга. К 2028 году треть ПО будет включать агентный ИИ, но 40% проектов закроют из-за рисков.

企业IT系统正面临越来越多由自主AI代理引发的事故。这些代理在算法框架下运行，可能触发导致级联故障的操作。例如，检测到微服务延迟的代理可能重启集群，却未意识到其他服务已处于峰值负载或数据库正在后台重建索引。最终结果是"羊群效应"，不仅未解决问题，反而加剧了故障。

核心问题在于企业对AI代理的认知。与传统混沌工程实验（工程师需评估当前系统负载后再进行变更）不同，代理自动运行，缺乏上下文感知。这导致代理行为引发的故障未被记录，因为根本原因被归咎于技术故障而非AI错误。

专家建议采用"弹性储备"模型，实时评估系统承受额外负载的能力。该模型应跟踪SLO耗尽速率、延迟趋势、依赖饱和度和应用行为信号等参数。每个代理行为必须在此系统中记录，以防多个代理或实验同时过载相同依赖项。

大语言模型（LLM）可生成潜在故障假设，但存在局限性。LLM基于历史数据识别风险，却无法考虑依赖关系图更新后的基础设施变更。此时需人工介入，特别是在信号模糊或系统不稳定时。

为降低风险，企业必须将AI代理行为纳入现有混沌管理流程。这包括在"弹性储备"不足时阻止代理行为，并在模糊情况下将决策权移交工程师。只有这样，自主系统才能在生产环境中稳定运行。

常见问题

Почему ИИ-агенты становятся причиной инфраструктурных сбоев?: Агенты действуют автоматически, не учитывая контекст системы. Они могут инициировать каскадные сбои, например, перезапуская кластер без анализа текущей нагрузки других сервисов.
Как предприятия могут предотвратить сбои от ИИ-агентов?: Внедрить модель «резерва устойчивости», которая оценивает способность системы выдерживать нагрузки в реальном времени и блокирует действия агентов при недостаточном запасе прочности.
Какие ограничения есть у LLM при прогнозировании сбоев от ИИ-агентов?: LLM могут выявлять риски на основе исторических данных, но не учитывают изменения в инфраструктуре после обновлений. В неоднозначных ситуациях решения должен принимать человек.
Какие данные Gartner приводят о внедрении ИИ-агентов в корпоративное ПО?: К 2028 году треть корпоративного ПО будет включать агентный ИИ, но 40% таких проектов будут закрыты из-за слабого контроля рисков.

Dzen 订阅： /feed/dzen.xml · RSS： /feed.xml