中国信通院：6 月国内词元日均消耗量约 500 万亿，是 2025 年 12 月的近 4 倍

据中国信通院10月24日发布的信息，随着大模型技术快速演进，词元服务成为技术落地应用的关键环节，国内日均词元调用量持续上升。2026年6月，国内词元日均消耗量约为500万亿，这一数字是2025年12月的近4倍。产业中，越来越多的MaaS平台厂商通过公有云API方式提供大模型词元服务。然而，用户对词元服务性能缺乏直观判断依据，面临选型困难等问题。

为有效衡量服务性能，中国信息通信研究院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室以及中国人工智能产业发展联盟，自2025年起持续开展公有云大模型词元服务性能监测工作，为产业应用提供重要参考。近期，三方联合发布了《大模型词元服务性能监测报告（2026年）》。

该报告基于2026年1月至8月的监测数据，围绕各平台词元服务的调用成功率、吞吐速度、首词时延、稳定性、价格及上下文窗口等维度进行分析，对比了原厂大模型官方平台，以及DeepSeek、Qwen、GLM、Kimi四款开源模型在第三方平台上的性能差异。报告进一步分析了影响词元服务性能的关键因素，总结了产业核心观察，并明确了下一步工作计划，旨在为用户选型提供参考，同时为产业界优化服务能力提供方向指引。

报告核心观点如下：

1. 国内词元服务每秒吞吐量较2025年翻倍，但仍低于国外水平

报告指出，8月份国内各模型平均TPS达到78.23（个/秒），相比2025年均值38.25（个/秒）实现翻倍增长。然而，8月份国外典型模型的TPS均值为112.82（个/秒），较2025年12月的51.35（个/秒）提升也超过一倍，整体表现优于国内。

2. 词元服务时延有所增加，国内外趋势一致

报告显示，今年以来，国内各模型平均TTFT持续上升，8月份均值达到1.26秒，相较2025年平均值0.78秒明显增加。同时，8月份国外典型模型TTFT平均值达到2.08秒，相比4月份的1.04秒也显著上升。值得注意的是，TTFT上升并非单纯的性能退化，而是伴随模型参数量增加、上下文长度扩展和调用量增长等多种因素共同作用的结果。

3. 2026年词元服务价格明显回升

报告提出，经历过去两年的价格战后，2026年国内外模型服务价格显著上涨。国内2025年下半年归一化均价为6.8元，而今年以来均价升至13.46元，涨幅接近一倍。但国外价格仍高于国内，2026年以来发布的典型模型平均归一价格约为117.8元。

4. 模型上下文长度不断向百万级扩展

报告指出，在被监测的模型中，上下文长度达到1M的模型占比为47.8%，200K及以上的合计占比达95.7%，相比2025年底提高了超过76个百分点，而低于200K的模型占比持续减少。

5. 开源模型词元服务性能提升显著，同一模型在不同平台性能波动较大

报告提出，5月份更新的4款开源模型新版本监测显示，TPS持续提升，TTFT时延不断压缩。例如，8月份DeepSeek-V4-Pro的TPS已达到DeepSeek-V3.2的两倍。时延方面，5月份主要模型完成换代升级后，TTFT普遍出现阶段性上升，但随着推理优化措施落地，时延指标逐步回落至换代前水平。同时，这4款模型在不同平台上的TPS、TTFT及调用成功率表现不一。部分第三方平台性能明显优于官方平台，同一模型在不同平台间的TPS差距最大可达近一倍。各平台对相同模型的推理加速、优化策略及成本控制不同，是造成性能分化的主要原因。爱游戏在技术迭代中持续关注此类性能差异，以优化用户体验。