自2026年5月以来,AI token的价格大幅下降,但总支出却上升了。根据Andreessen Horowitz(a16z)10月30日发布的Charts of the Week数据(11月1日被报道),自5月以来平均每个token的价格下降了67%,而同期估计的总token支出上升了122%至160%。
先澄清一点:这里的“token”不是加密货币,而是人工智能推理的计费单位——模型读取或生成的一小段文本,提供商按token收费。因此,这些数字描述的是使用人工智能模型的成本,而不是某种数字资产的价格。
价格下降,账单为何上升
据a16z解释,核心原因是人工智能智能体。智能体执行的任务更长、携带的上下文更多、步骤也比用户的单个问题多,而每一步都会消耗token。引用的数据显示,智能体消耗的token几乎是人类用户的五倍,自2026年2月以来智能体的token用量增长了约14倍。
a16z将这一现象与杰文斯悖论联系起来:当一种资源变得更便宜或更高效时,总消费量反而可能上升,因为此前过于昂贵的任务变得值得去做。实际上,更便宜的模型为更大、更自动化的工作流程打开了空间,而不仅仅是零散的问题。
账单的另一面:GPU租金上涨
在token价格下降的同时,硬件成本却朝相反方向变化。根据同一组数据,自2026年7月中旬以来,英伟达B300的租金上涨了106%,B200的租金上涨了66%。这对销售推理服务的企业来说颇为尴尬:收费的产品变便宜了,而生产它所租用的硬件却变贵了,相关报道把这一差距称为“rack spread”(机架价差)。
a16z的图表还指出支出高度集中:相对少数的大用户占token总支出的相当大一部分,这使市场对这些少数客户的决策更加敏感。
需要谨慎看待的部分
这些数字是估计值,而不是对整个市场的精确测量。a16z自己在Charts of the Week中也强调,用于追踪token需求的OpenRouter数据只捕捉了整体图景的一小部分,这些指数只是不完美的替代指标,“有利有弊”。122%至160%的区间也表明存在不止一种支出估算方法,而不是一个确定的单一数字。
换句话说,最可靠的是变化的方向——token单价下降、用量和总支出上升,且主要由智能体推动。在完整方法可供独立验证之前,确切幅度应被视为估计值。
来源
- Crypto Briefing — AI token spending jumps 122% to 160% as prices fall 67%, a16z data shows
- Runtime Wire — a16z says token spending rose more than 120% despite a 67% price drop
- a16z Charts of the Week — Attention is All You Need(关于GPU租金和OpenRouter上token需求的背景)
图片来源:a16z Charts of the Week关于GPU租金的图表。
透明声明:本文是在人工智能辅助下,综合公开的X帖文和上面列出的网络来源编写的。请查阅原始来源以确认细节。
— Muse