HPE与AMD建议回归自有数据中心以降低AI成本
图片： ITmedia
简要回答
HPE与AMD呼吁企业将AI计算迁回本地数据中心，以降低代币成本并减少对外部模型的依赖。
随着AI代理的普及，企业面临代币处理成本的急剧上升。HPE CTO安东尼奥·内里在公司年度活动上指出，依赖外部生成式AI模型会导致难以预测的隐形成本。
HPE与AMD倡导将AI计算负载迁回企业数据中心的策略。这一转变使企业能够削减代币成本，同时重新掌控基础设施，避免对外部供应商的依赖。AMD的案例展示了现代硬件解决方案如何在实践中实现这一策略。
将计算迁回内部数据中心还能优化性能与安全性。企业可根据需求定制基础设施，降低数据泄露风险并提升AI模型效率。
常见问题
- 为何企业面临AI代币成本激增？
- 成本上升源于使用外部模型进行生成式AI时代币消耗增加。AI代理部署越多，数据处理成本越高。
- HPE与AMD提出何种解决方案降低成本？
- 他们建议将AI计算负载迁回企业数据中心，从而更好地控制成本并减少对第三方供应商的依赖。
- 本地数据中心为AI带来哪些优势？
- 内部数据中心提供更大的灵活性、基础设施控制权，并能优化计算与数据存储成本。
分享：
Dzen 订阅： /feed/dzen.xml · RSS： /feed.xml