Cost - saving in AI
搜索文档
The cost-saving AI measure Coinbase's CEO is taking to keep costs 'roughly flat' while growing token usage
Business Insider· 2026-06-09 00:57
AI模型成本优化策略 - Coinbase首席执行官Brian Armstrong分享公司策略,通过将提示词请求路由至更便宜的模型来控制成本,在代币使用量呈指数级增长的同时保持成本大致持平[1] - Armstrong预测,未来12-18个月内,80%的工作负载将运行在成本便宜99%的模型上[2] - 只有在需要“智商最大化”的场景,如科学突破或智能体编排时,用户才会使用最新模型[2] 行业观点与趋势 - Hugging Face联合创始人Julien Chaumond指出,模型路由技术当前正快速发展[3] - Box首席执行官Aaron Levie认为AI使用将在未来几年出现分层,高端工作由领先模型完成,而高容量工作则交由廉价模型处理[3] - Glean联合创始人Tony Gentilcore赞同Armstrong的观点,并指出技术界已普遍认知此趋势,而金融市场可能错误地将Opus等高价模型的价格外推至无限规模[5] 行业心态转变 - 效率优先的思维模式相对较新,或至少是近期才被公开宣扬,此前行业盛行“代币最大化”风气,技术领袖常炫耀高额代币账单或对最新模型的使用[4] - 初创企业领域曾流行不计成本使用代币的心态,Y Combinator首席执行官Garry Tan曾建议创始人“放开使用”代币[5] - Y Combinator支持的初创公司创始人Lance Yan在四月表示,定量配给代币是“愚蠢的”行为[5]