亚马逊将在 VB Transform 2026 上发布可靠 AI 代理框架

在将于7月14日至15日在门洛帕克举行的VB Transform 2026大会上，亚马逊将发布其开发可靠AI代理的框架。该公司提出了一种超越传统指标（如EVAL）的新方法来评估AI代理的有效性。亚马逊AGI自主研究实验室主任布莱恩·西尔弗索恩表示，现有标准往往无法反映AI在动态商业场景中的实际可靠性。

亚马逊的框架专注于四个关键方面：稳定性、韧性、可预测性和安全性。公司不依赖模型内置的安全机制，而是使用隔离环境（沙盒），AI代理提出的变更需经人工审核后才能实施。这种方法对金融等敏感领域尤为重要，因为错误可能带来严重后果。

VentureBeat对100多名IT高管的调查显示，仅4%的人完全信任AI模型的内置安全机制。主要担忧包括未经授权的数据访问（40%）和提示词操纵（27%）。大会还将邀请Waymo代表分享AI在物理世界中的应用，凸显业界对安全可扩展AI解决方案的日益关注。