LinkedIn、沃尔玛与 Zendesk 如何突破 AI 代理的基础设施瓶颈

在 VB Transform 2026 大会上，LinkedIn、沃尔玛与 Zendesk 的代表分享了 AI 代理落地的关键障碍。问题的核心并非模型性能，而是无法满足毫秒级延迟的陈旧基础设施。为人类交互设计的系统根本无法适应 AI 代理的高速需求。

LinkedIn 面临 Kubernetes 的限制：动态容器分配耗时数秒，远超 AI 代理的要求。解决方案是构建预配置容器池，可在不同工作负载间瞬间切换。公司还重新设计了编排流程：不再用一个 LLM 评估另一个，而是采用确定性流程，其中 80% 逻辑以脚本形式运行，模型仅用于推理任务。

沃尔玛则遭遇意外挑战：内部 AI 代理工具大受欢迎，员工开始自行开发重复解决方案。公司未限制访问权限，而是推出管理系统，自动识别重复代理、筛选最优版本，并无需工程团队介入即可直接上线。Zendesk 则放弃将 200 亿客户交互记录以宽泛上下文加载至 LLM 的方案，转而投资数据基础设施现代化，以确保代理与信息的精准高效交互。

三家公司达成共识：成功的关键在于摆脱对特定模型与供应商的依赖。LinkedIn 构建通用模型交互网关，沃尔玛采用灵活架构支持多样化工作负载，Zendesk 则坚持自主掌控基础设施。专家建议从评估系统入手，尽早为员工部署工具，并构建与模型和上下文无关的架构。