AI竞赛进入“算账时间”:Token成本如何成为企业胜负手?
创始人
2026-01-02 20:42:37
0

  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!

(来源:财联社)

财联社1月2日讯(记者郭松峤)“我们平台上每天有海量的客服、推荐、风控场景需要调用大模型,Token成本就像悬在头上的‘达摩克利斯之剑’。”一位电商企业的AI技术负责人近日对财联社记者感叹,并道出了全行业的普遍焦虑。

2026年,随着人工智能大模型从技术演示走向产业落地,一个冰冷的现实摆在所有从业者面前:企业主和CIO们开始用商业的眼光,而非技术炫酷的程度,来审视每一笔AI投资。那个决定性的商业天平,最终倾斜到了一个最基础的计量单位上——Token(令牌)。

当智能体应用越铺越开,单个交互会话的Token消耗量呈指数级激增,高昂的成本结构让许多创新在规模化前,就卡死在了“经济账”上。

不过,企业的痛点,正是政策与产业发力的交汇点。

政策引擎:打响“成本歼灭战”的发令枪

进入“十五五”时期,国家对于人工智能产业发展的顶层设计,发生了从“鼓励探索”到“赋能千行百业”的深刻转变。

国家部委层面,国家数据局已将“优化算力资源布局”、“实施全国一体化算力网监测调度工程”列为重点任务,其深层逻辑正是通过优化资源配置和提升使用效率,从源头降低社会使用算力的总成本。工信部则持续推动“国货国用”,鼓励国产AI芯片及服务器等关键环节的生态突破,这不仅是供应链安全的保障,更是通过开放、竞争的市场环境,倒逼技术效能提升和成本下降。

地方的行动更为迅速直接。深圳市在其行动计划中,设定了AI算力综合成本下降的量化目标。更引人注目的是如福建漳州等地推出的“算力券”政策,直接为企业抵扣使用公共算力的费用,实质上是政府出手,替企业分担最核心的Token成本压力。

“这些政策组合拳,瞄准的正是AI产业化最后一公里的障碍——成本。”天使投资人、资深人工智能专家郭涛向财联社记者解读,“它传递的信号是,未来的竞争,不仅是技术高低的竞争,更是将技术转化为经济价值的效率竞争。”

token消耗量指数级增长

Token是大型语言模型处理信息的基本单位。用户输入的每一个字、模型输出的每一段话,都在消耗Token。因此,Token成本直接决定了调用AI服务的价格。

当前的现实是,尽管以DeepSeek为代表的开源大模型极大地降低了创新门槛,但智能体应用的普及却催生了Token消耗量的 “指数级海啸”。

据行业最新数据显示,头部科技公司的月度Token处理量已突破千万亿级别,且年增长率超过十倍。单次交互的上下文越来越长,任务规划越来越复杂,导致单任务Token消耗激增数十倍。

“这好比移动互联网初期,如果1MB流量的价格始终居高不下,就不会有今天的短视频和直播生态。”郭涛指出。他比喻,AI基础设施的 “提速降本” ,将直接决定“人工智能+”在千行百业渗透的深度与广度。

来自多方的数据也有力佐证了token消耗量的指数级增长趋势。

火山引擎最新披露的数据显示,截至今年12月,字节跳动旗下豆包大模型日均token使用量突破50万亿,较去年同期增长超过10倍,相比2024年5月刚推出时的日均调用量增长达417倍;谷歌在10月披露,其各平台每月处理的token用量已达1300万亿,相当于日均43.3万亿,而一年前月均仅为9.7万亿。

华东某大型商业银行科技部负责人告诉记者,该行一年在智能客服、风险审计、投研助手等场景的Token消耗费用已达数千万元级。“随着智能体覆盖的业务越来越复杂,交互越来越频繁,成本压力急剧上升。我们今年技术预算的一个核心KPI,就是实现单位智能业务成本的显著下降。”

这一诉求在今年以来变得尤为迫切。据财联社记者了解,包括浙江、江苏在内的多个制造业大省,在推动“智改数转”过程中,已将“AI应用成本”作为企业申报专项扶持资金的重要评估维度。

当使用量达到“百万亿token/月”的量级时,哪怕每百万token成本只下降1美元,也可能带来每月1亿美元的成本差异。浪潮信息首席AI战略官刘军认为:“token成本就是竞争力,它直接决定了智能体的盈利能力。要让AI真正进入规模化普惠阶段,token成本必须在现有基础上继续实现数量级的下降。”

硬件创新瞄准token成本瓶颈

降本呼声高涨,但为何如此之难?

财联社记者调研了解到,根源在于当前主流的AI算力基础设施,其设计基因源于大模型的“训练时代”。

训练任务像一场持续数月、需要调动全部兵力的“集团军大会战”,追求的是总体吞吐量和稳定性。而当进入“推理时代”,尤其是智能体所需的实时交互推理,任务更像是一场场要求“秒级响应”的“特种部队精确突击”。沿用旧架构,导致了三大核心瓶颈:算力利用率(MFU)严重“倒挂”、“存储墙”瓶颈加剧、横向扩展代价高昂。

面对这一结构性挑战,单纯的硬件堆砌已无解。行业领军企业开始将创新火力集中到系统架构层面,目标是实现Token成本的 “数量级跨越”。

以算力基础设施提供商浪潮信息近期发布的新品为例,其思路颇具代表性。该公司推出的元脑HC1000超扩展AI服务器,并未追求单一的算力峰值,而是瞄准了“单位算力的Token产出效率”这一新靶心。

刘军表示:“我们看到原来的AI计算是瞄着大而全去建设的,五脏俱全,各种各样的东西都在里面。但是当我们聚焦降低token成本这一核心目标之后,我们重新思考系统架构设计,找到系统瓶颈,重构出一个极简设计的系统。”

刘军强调,当前“1元/每百万token”还远远不够,面对未来token消耗量的指数级增长,若要实现单token成本的持续、数量级下降,需要推动计算架构的根本性革新。

“这也要求整个AI产业的产品技术创新,要从当前的规模导向转为效率导向,从根本上重新思考和设计AI计算系统,发展AI专用计算架构,探索开发大模型芯片,推动算法硬件化的专用计算架构创新,实现软硬件深度优化,这将是未来的发展方向。”刘军说。

相关内容

「最终远射瞄准线」活动:射...
〓活动奖励〓〓活动时间〓2026/07/17 10:00 ~ 20...
2026-07-15 20:22:45
药物受理最新动态:贵州盛世...
国家药品监督管理局药品审评中心数据显示,2026年7月15日,贵州...
2026-07-15 20:19:34
药物受理最新动态:安徽美来...
国家药品监督管理局药品审评中心数据显示,2026年7月15日,安徽...
2026-07-15 20:18:37
国家卫生健康委就介绍“时令...
国家卫生健康委于7月15日(周三)15:00,在国家卫生健康委2号...
2026-07-15 20:17:10
“喝酒吃药”行情再现!创新...
  A股三大指数今日(7月15日)集体回调,截至收盘,沪指跌0.2...
2026-07-15 20:13:03
2026年上半年广西外贸稳...
中新网南宁7月15日电(梁颖)南宁海关15日发布统计数据显示,20...
2026-07-15 20:11:20
亮晴控股:间接全资附属公司...
亮晴控股公告称,7月15日,公司间接全资附属公司素肌源创香港有限公...
2026-07-15 20:09:28
贝壳控股:7月14日回购5...
贝壳控股公告称,7月14日,公司通过纽约证券交易所回购555,32...
2026-07-15 20:07:55
中国稀土关联交易解读:99...
7月15日,中国稀土集团资源科技股份有限公司(证券代码:00083...
2026-07-15 20:05:26

热门资讯

「最终远射瞄准线」活动:射击规... 〓活动奖励〓〓活动时间〓2026/07/17 10:00 ~ 2026/07/27 03:59〓参与...
药物受理最新动态:贵州盛世龙方... 国家药品监督管理局药品审评中心数据显示,2026年7月15日,贵州盛世龙方制药股份有限公司的蓝芷安脑...
药物受理最新动态:安徽美来药业... 国家药品监督管理局药品审评中心数据显示,2026年7月15日,安徽美来药业股份有限公司的托吡酯口服溶...
国家卫生健康委就介绍“时令节气... 国家卫生健康委于7月15日(周三)15:00,在国家卫生健康委2号楼新闻发布厅(西城区北礼士路甲38...
“喝酒吃药”行情再现!创新药雄...   A股三大指数今日(7月15日)集体回调,截至收盘,沪指跌0.29%,收报3955.58点;深证成...
2026年上半年广西外贸稳中有... 中新网南宁7月15日电(梁颖)南宁海关15日发布统计数据显示,2026年上半年,广西外贸进出口424...
亮晴控股:间接全资附属公司订立... 亮晴控股公告称,7月15日,公司间接全资附属公司素肌源创香港有限公司与Hongkong Sunsee...
贝壳控股:7月14日回购55.... 贝壳控股公告称,7月14日,公司通过纽约证券交易所回购555,324股股份,每股回购价在5.36-5...
中国稀土关联交易解读:99.3... 7月15日,中国稀土集团资源科技股份有限公司(证券代码:000831,简称“中国稀土”)发布2026...
“中国游客不来了,日本上半年外... 日本共同社7月15日报道称,日本政府当天公布的数据显示,2026年上半年赴日外国游客数量较去年同期下...