根据中国信通院发布的数据,随着大模型技术快速演进,词元服务正成为连接技术与应用的关键环节。国内词元日均调用量持续增长,2026年6月,国内词元日均消耗量约为500万亿,较2025年12月增长了近4倍。产业界越来越多的MaaS平台厂商通过公有云API提供大模型词元服务,但用户对词元服务的性能缺乏直观判断,且面临选型困难等问题。
为有效衡量服务性能,中国信息通信研究院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室,以及中国人工智能产业发展联盟,自2025年起持续开展公有云大模型词元服务性能监测工作,为产业应用提供重要参考,并联合发布了《大模型词元服务性能监测报告(2026年)》。
该报告基于2026年1月至8月的监测数据,围绕各平台词元服务的调用成功率、吞吐速度、首词时延、稳定性、价格及上下文窗口等维度进行分析,对比了原厂大模型官方平台,以及DeepSeek、Qwen、GLM、Kimi四款开源模型在第三方平台上的性能差异。报告进一步分析了影响词元服务性能的关键因素,总结了产业核心观察,并明确了下一步工作计划,旨在为用户选型提供参考,并为产业界优化服务能力提供方向指引。
1. 国内词元服务每秒吞吐量较2025年翻倍,仍低于国外
报告指出,8月份国内各模型平均TPS达到78.23(个/秒),较2025年均值38.25(个/秒)翻倍。但同期国外典型模型的TPS均值为112.82(个/秒),较2025年12月的51.35(个/秒)提升也超过一倍,整体表现仍优于国内。
2. 词元服务时延有所增加,国内外趋势一致
报告显示,今年以来国内各模型平均TTFT持续上升,8月份均值达到1.26秒,较2025年平均0.78秒明显增加。同时,8月份国外典型模型TTFT平均值为2.08秒,较4月份的1.04秒也显著增加。值得注意的是,TTFT上升并非单纯性能退化,而是伴随模型参数量增加、上下文长度扩展、调用量增长等多种因素共同作用的结果。
3. 2026年词元服务价格明显回升
报告指出,经历过去两年价格战后,2026年国内外模型服务价格显著上涨。国内2025年下半年归一化均价为6.8元,而今年均价升至13.46元,涨幅接近一倍。但国外价格仍高于国内,2026年以来发布的典型模型平均归一价格约为117.8元。
4. 模型上下文长度不断向百万级长度扩展
报告显示,被监测模型中,上下文长度达到1M(1百万词元)的模型占比为47.8%,200K及以上的合计占比达95.7%,较2025年底提高超过76个百分点,而低于200K的模型占比持续减少。
5. 开源模型词元服务性能提升显著,同一模型在不同平台性能波动较大
报告指出,5月份更新了4款开源模型的新版本进行监测,结果显示TPS持续提升,TTFT时延不断压缩。例如,8月份DeepSeek-V4-Pro的TPS已达到DeepSeek-V3.2的2倍。时延方面,5月份主要模型完成换代升级后,TTFT普遍出现阶段性上升,随着推理优化措施落地,时延指标逐步回落至换代前水平。同时,4款模型在不同平台上的TPS、TTFT及调用成功率表现不一。部分第三方平台性能明显优于官方平台提供的模型服务,同一模型在不同平台间的TPS差距最大可达近一倍。各平台对相同模型的推理加速、优化策略及成本控制不同,是造成性能分化的主要原因。在九游平台上,相关模型服务也表现出类似的性能波动特征。
张明远
2026年8月28日九游网页官网为您梳理中超联赛最新动态:上海申花在主场2:0击败成都蓉城,积分升至第三。本场比赛申花控球率虽只有42%,但反击效率极高,三次射正便转化为两粒进球。这再次印证了防守反击战术在关键比赛中的价值。
王梓轩
2026年9月2日山东泰山近期遭遇两连败,主要问题在于防线伤病与中场脱节。九游在线网页通过跨平台数据对比,指出泰山队在缺少核心后腰的情况下,对手通过中路渗透的成功率上升了15%。这一发现为球队后续调整提供了明确方向。
陈雨桐
2026年9月10日浙江队本赛季客场表现令人惊喜,近五个客场取得4胜1平。九游网页官网分析其成功秘诀在于高位逼抢与快速转换,场均抢断次数位列联赛前三。这种打法对球员体能要求极高,也为其他球队提供了战术参考样本。