Cohere:企业AI主权需掌控整个代理栈

简要回答
企业AI主权需掌控整个技术栈,从基础设施到代理框架。
在VB Transform 2026大会上,一场专注于生成式AI代理在商业中应用的会议上,Cohere产品副总裁Rashad Alao分享了企业AI主权的愿景。在他看来,真正的厂商独立性与合规性,仅在掌控整个技术栈时才能实现——从硬件基础设施到代理框架与数据管理系统。
Alao曾在Google与Meta*的负责任AI团队工作,他指出,主权不仅限于在企业防火墙后运行模型。金融与医疗等关键行业必须自主决定数据存储位置与查询处理方式。这不仅涉及GPU与私有云,还包括处理企业数据的模型路由系统、搜索工具与代理框架。
该专家还反驳了“推理成本降低使本地模型过时”的说法。他指出,复杂AI代理能执行多步任务,显著增加token消耗。Cohere提出一种不依赖token量的定价模式,让企业能优化成本并选择适合特定任务的模型。
为展示这一理念,Alao援引一家加拿大大型银行的案例:该银行使用Cohere的本地模型处理受监管流程,而将非关键任务通过North平台转至更强大的云端模型。该公司还推出新解决方案,包括拥有2180亿参数的Command A+模型,以及面向开发者的开源North Mini Code模型,后者专为在单张Nvidia H100 GPU上运行而优化。
* Facebook、Instagram、WhatsApp等Meta旗下服务归属Meta Platforms Inc.,该公司在俄罗斯境内被认定为极端组织并被禁止。
常见问题
- 为何企业需掌控AI基础设施?
- 全面掌控基础设施可帮助组织遵守法规、保护敏感数据并避免对特定厂商的依赖。这对银行、医疗机构及政府部门尤为关键。
- Cohere如何优化AI模型使用?
- Cohere建议根据任务复杂度与数据敏感度在模型间路由任务。受监管流程使用本地模型,而非关键任务则转至云端强大模型。
- 小型本地模型有何优势?
- 如North Mini Code等紧凑模型能高效处理80%的常见任务,降低推理成本与硬件需求,是企业级应用的理想选择。
分享:
Dzen 订阅: /feed/dzen.xml · RSS: /feed.xml