Token不经济
腾讯研究院·2026-06-29 17:33

文章核心观点 - 当前AI产业,尤其是大模型应用,普遍存在“token不经济”现象,即token消耗成本与实际产出价值不成比例,导致企业成本攀升而收益有限[2] - 造成“token不经济”的原因是多方面的,包括供给端的模型定价上涨、技术架构导致的无效消耗,以及需求端应用场景局限在高度数字化领域,难以向物理世界拓展[3][31][33] - 产业链风险不均衡,上游硬件与基础设施厂商利润丰厚,而中游模型厂商面临高资本支出与盈利压力,风险可能通过金融市场传导[44][46] - 解决“token不经济”需要供给与需求两端发力,通过技术优化降低成本,并寻找能产生真实商业价值的应用场景,使token净收益转正[56] 行业现象:Token不经济的表现与案例 - 企业内部成本失控:微软在内部开放Claude Code仅6个月后,因token消耗剧增、成本暴涨但产出质量不佳而收回许可,将员工导向自家Copilot CLI[2] - 企业预算快速耗尽:Uber仅用4个月就耗尽了2026年全年的AI编程工具预算[2] - 无效消耗普遍:亚马逊部分员工存在无意义的token消耗,Meta曾设立内部token消耗排行榜后又悄悄撤下,不再鼓励无产出的消耗[2] 供给端分析:模型定价策略与市场格局 - 领导者(Anthropic)的分层溢价策略:Anthropic凭借编程能力优势,自Claude 3系列起采用旗舰(Opus)-中端(Sonnet)-轻量(Haiku)的产品组合与分层定价,成功实现token溢价并保护市场份额[7]其年度经常性收入从2024年底约10亿美元飙升至2026年5月约450亿美元[8] - 追赶者(OpenAI、Google)的价格竞争:OpenAI返身聚焦编码,建立分层矩阵,其GPT 5.5定价($5/$30)与Claude Opus看齐,而轻量模型(如GPT 5.4 mini $0.75/$4.50)则大幅低于同级竞品以换取市场[10]Google因需平衡多元生态,定价相对较低,如Gemini 3.1 Pro输出百万token价格为12美元,低于同期GPT 5.4的15美元和Opus 4.6/4.7的25美元[11] - 经济型token市场悄然涨价:次级/轻量及开源/半开源模型市场出现价格中枢上移现象[12]例如,Claude Haiku从3.5的$0.80/$4.00涨价20%至4.5的$1.00/$5.00[14]GPT 4o mini从$0.15/$0.60上浮至4.1 mini的$0.40/$1.60[14]Gemini Flash输出价格从2.0的$0.40翻6倍多至2.5的$2.50[14]开源模型GLM-5在海外定价较GLM-4.7提升约67%到100%[14] - 涨价根本原因:经济型token消费量爆炸式增长,需求快速增长为厂商提供了提价空间,竞争逻辑从比拼便宜转向比拼性价比[15] 技术根源:智能体架构导致的token浪费 - 上下文陷阱:Agent架构会反复将历史记录带入上下文,导致信息被反复读取计费[19]例如,在ChatDev框架中,代码审查阶段消耗的token平均占总消耗的39.5%[19] - 分词器黑箱:闭源模型更新分词器可能导致token计数膨胀,增加成本但不透明[23]Anthropic为Opus 4.7更换分词器后,多家测试显示token膨胀显著,如技术文档与英文密集代码文件平均膨胀率达1.47倍(+47%)[24] - 技能的无意义调用:大量技能设计低效,增加了无效token消耗[27]一项对55,315个公开技能的研究发现,26.4%的技能没有路由描述,超过60%的技能内容是不可直接执行的背景解释或示例[27]另一项基准测试显示,79.6%的测试技能未带来通过率提升,而token开销最高增加了451%[28] - 多Agent协同内耗:多Agent系统存在“沟通税”,重复讨论背景和结论消耗token[29]长程任务容易跑偏,为纠偏而增加的摘要、检查等机制带来更多消耗,即“熵税”[30] 需求端局限:应用场景的数字化鸿沟 - 当前应用高度集中:token使用大都局限在编程辅助、文档处理、数据分析等数字化水平较高的场景,在数字化程度低的线下服务业态中难以独立完成任务[33] - 编程是通用特例:编程场景因有编译器、解释器等提供确定的、自动化的信号反馈,能形成高效的后训练闭环,这是其他场景(如管理决策、法律、医疗)所不具备的优势[36] - 向物理世界跨越艰难:现实世界没有“编译器”,验证成本远高于生成成本[39]仿真技术面临“虚拟与现实鸿沟”,在仿真中训练的最优策略在真实世界中可能极其脆弱[40]例如,OpenAI的Dactyl灵巧手项目在仿真中达到极高成功率,但面对真实世界变化时鲁棒性迅速下降,公司最终解散了机器人团队[41] 产业链与金融风险 - 风险向中游模型厂商集中:上游厂商如台积电(2026年资本支出预计520-560亿美元)和英伟达利润丰厚[45]而主要模型厂商虽营收增长但仍深陷亏损,下游企业用户已开始控制成本[46]2025年,亚马逊、微软和Meta的自由现金流分别下降了76.6%、14.8%和3.4%[46] - 循环融资与影子信贷风险:部分模型厂商与上游企业形成循环融资,如OpenAI与英伟达、甲骨文的交易,其算力采购框架总额突破1万亿美元,与当前330亿美元的年化营收不匹配,基于对未来增长的脆弱预期[50][51]相关风险藏于规模约3万亿美元的美国私人信贷市场,存在期限错配、实物付息等问题,下行风险可能未被充分定价[52] - 资源挤占民生:算力扩张对水、电等资源需求巨大,挤压民生[53]例如,美国弗吉尼亚州数据中心耗电量已超过该州最大核电站发电量的两倍以上[53]电网扩容成本转嫁至居民,导致容量拍卖价格从29美元/MW-天飙升至444美元/MW-天,涨幅超过1400%[54] 解决路径:寻找Token价值方程式 - 技术面精细化变革: - 采用语义上下文压缩,减少输入token消耗[57] - 优化技能设计,通过描述压缩和渐进式加载,可实现39%的技能体压缩,同时提升模型功能质量2.8%[58] - 实施模型路由,按任务复杂度分层调用模型以降低成本[59] - 为多Agent系统设定硬性预算约束和主持人架构,防止无效循环[59] - 商业面价值锚定: - 企业加强token治理,建立配额、审批、成本归因等成本纪律[60] - 寻找token大规模商业应用的现实场景,如在具备弱确定性反馈的中间地带(如医疗影像筛查、供应链预测)拓展应用[61] - 回归投资回报率核心:行业需从炫技阶段进入生产阶段,关注每一枚token消耗所创造的产出价值,让token回归ROI这一金标准[63]

Token不经济 - Reportify