V-Help
← 全部新闻
人工智能

Cohere:企业AI主权需掌控整个代理栈

Cohere:企业AI主权需掌控整个代理栈

图片: images.ctfassets.net

简要回答

企业AI主权需掌控整个技术栈,从基础设施到代理框架。

在VB Transform 2026大会上,一场专注于生成式AI代理在商业中应用的会议上,Cohere产品副总裁Rashad Alao分享了企业AI主权的愿景。在他看来,真正的厂商独立性与合规性,仅在掌控整个技术栈时才能实现——从硬件基础设施到代理框架与数据管理系统。

Alao曾在Google与Meta*的负责任AI团队工作,他指出,主权不仅限于在企业防火墙后运行模型。金融与医疗等关键行业必须自主决定数据存储位置与查询处理方式。这不仅涉及GPU与私有云,还包括处理企业数据的模型路由系统、搜索工具与代理框架。

该专家还反驳了“推理成本降低使本地模型过时”的说法。他指出,复杂AI代理能执行多步任务,显著增加token消耗。Cohere提出一种不依赖token量的定价模式,让企业能优化成本并选择适合特定任务的模型。

为展示这一理念,Alao援引一家加拿大大型银行的案例:该银行使用Cohere的本地模型处理受监管流程,而将非关键任务通过North平台转至更强大的云端模型。该公司还推出新解决方案,包括拥有2180亿参数的Command A+模型,以及面向开发者的开源North Mini Code模型,后者专为在单张Nvidia H100 GPU上运行而优化。

* Facebook、Instagram、WhatsApp等Meta旗下服务归属Meta Platforms Inc.,该公司在俄罗斯境内被认定为极端组织并被禁止。

常见问题

为何企业需掌控AI基础设施?
全面掌控基础设施可帮助组织遵守法规、保护敏感数据并避免对特定厂商的依赖。这对银行、医疗机构及政府部门尤为关键。
Cohere如何优化AI模型使用?
Cohere建议根据任务复杂度与数据敏感度在模型间路由任务。受监管流程使用本地模型,而非关键任务则转至云端强大模型。
小型本地模型有何优势?
如North Mini Code等紧凑模型能高效处理80%的常见任务,降低推理成本与硬件需求,是企业级应用的理想选择。
分享:

Dzen 订阅: /feed/dzen.xml · RSS: /feed.xml

为何可信

本文由 V-Help 编辑部根据一手来源整理,并标注发布日期。

发布: V-Help.ru 新闻编辑部

来源: VentureBeat