AI 代理如何悄悄扰乱企业基础设施

企业IT系统正面临越来越多由自主AI代理引发的事故。这些代理在算法框架下运行，可能触发导致级联故障的操作。例如，检测到微服务延迟的代理可能重启集群，却未意识到其他服务已处于峰值负载或数据库正在后台重建索引。最终结果是"羊群效应"，不仅未解决问题，反而加剧了故障。

核心问题在于企业对AI代理的认知。与传统混沌工程实验（工程师需评估当前系统负载后再进行变更）不同，代理自动运行，缺乏上下文感知。这导致代理行为引发的故障未被记录，因为根本原因被归咎于技术故障而非AI错误。

专家建议采用"弹性储备"模型，实时评估系统承受额外负载的能力。该模型应跟踪SLO耗尽速率、延迟趋势、依赖饱和度和应用行为信号等参数。每个代理行为必须在此系统中记录，以防多个代理或实验同时过载相同依赖项。

大语言模型（LLM）可生成潜在故障假设，但存在局限性。LLM基于历史数据识别风险，却无法考虑依赖关系图更新后的基础设施变更。此时需人工介入，特别是在信号模糊或系统不稳定时。

为降低风险，企业必须将AI代理行为纳入现有混沌管理流程。这包括在"弹性储备"不足时阻止代理行为，并在模糊情况下将决策权移交工程师。只有这样，自主系统才能在生产环境中稳定运行。