AIDC > 正文

硅基流动提出Token生产力公式,助央国企建推理基础设施

在企业网D1net主办的2026秋季央国企CIO及数科公司高管峰会上,硅基流动解决方案总监唐安波作主题分享,题为《从“算力”到“Token生产力”:央国企大模型规模化落地的推理基础设施与ROI实践》。

唐安波表示,当下AI应用处于爆发式增长早期,Token消耗量呈指数级增长,背后是模型架构持续演进、版本更新节奏加快,同时算力架构也在不断演进,模型与算力之间是相互推动的迭代过程。企业一方面要适配这些变化,另一方面要面向自身业务场景提供多元化模型服务,还要把成本控制在合理范围内。

硅基流动所做的是打通从算力到Token之间的转化层:把算力统一纳管,通过自研推理引擎让模型跑得更快更好;既在公有云端建设Token工厂,也帮助央国企在内部打造自己的Token工厂。公司据此提出Token生产力核心公式:Token生产力=产能×利用率×交付质量,其中产能由芯片硬件能力、模型优化水平共同决定,利用率依靠流量治理等手段提升。

免责声明:本内容来自网络,不代表科技创新网的观点和立场。

举报

相关推荐 全部