如何管理AI代理：安全专家的经验分享

自主AI代理正快速从简单的聊天机器人演变为能在企业应用中执行任务并处理敏感数据的数字化员工。然而，其日益增长的自主性也引发了严重的安全与治理问题。Snowflake峰会上的专家强调，这类系统应被视为勤奋但缺乏经验的实习生——需要持续监督与明确指令。

核心问题在于，缺乏约束的AI代理可能表现出不可预测的行为。例如，被指派购买鞋子的代理若未受控制，可能会购买汽车。专家强调，必须精心设计代理的访问权限并设定严格边界，以防止意外后果。此外，在开发与部署过程中，还需充分考虑上下文与意图。

另一个挑战在于AI代理的动态行为。与传统软件中预定义的API交互不同，代理能自主选择解决问题的路径。这可能导致代理与能执行用户级操作的工具交互，从而引发数据泄露或未授权访问的风险。

专家还警告称存在“影子AI”现象——代理在IT部门监管之外运行。例如，一家客户在其基础设施中发现了12个未受控的OpenClaw实例，这些实例拥有API和源代码访问权限，而承包商则通过Telegram*分享数据。此类案例凸显了对企业内所有AI系统进行严格监控与审计的必要性。

为降低风险，专家建议采用传统的身份与访问管理实践，并为代理设定明确的指令和限制。在保持AI自主性与安全性之间找到平衡至关重要。正如1Password技术总监Nancy Wang所指出，主要风险来自权限过大且长期使用的凭据。