
本文来自微信公众号: 快刀青衣 ,作者:快刀青衣
Token预算真正要管的,不是用量。
现在已经是11月了。如果回忆一下年初,就在今年3月,时任英伟达CEO的黄仁勋说过一句话,马上传遍了各个媒体。
大意是,一个年薪50万美元的工程师,如果一年在Token上花不到25万美元,他会「非常担心」。
你看,他是因为员工花Token不够多而担心。
差不多同一时期,Visa把员工的月Token消耗量从1万亿涨到了将近2万亿,这件事还被当作喜报发布。腾讯也给每个员工配了年均22万元的Token资源。
那阵子,企业用Token的氛围就是五个字:大力出奇迹。
现在呢?就在这个月,全球SaaS软件巨头Salesforce的首席运营官给员工发了邮件,从本月起,按照岗位设置Token预算。销售部技术岗每月1000美元,非技术岗100美元,其他部门也各有不同。
要知道,他们的CEO贝尼奥夫今年5月刚说过,预计全年在Anthropic的Token上要花3亿美元,主要用来跑编程智能体。5月还在说要花3个亿,11月就开始设限制了。
Salesforce也不是个例。苹果工程师的日均Token额度从300美元砍到200美元,部分非技术团队还考虑压到每天25美元。
Uber更夸张,全年的AI Token预算,4个月就烧光了,然后紧急设置了每人每项工具每月1500美元的限额。
你看,半年前还在比谁烧得多,半年后就开始比谁管得住了。
这个转弯的速度快到让人有点恍惚。不过我想说的是,这真的不是这些公司的技术负责人说一套做一套,是技术发展太快了,让Token的消耗出现了指数级增长。
我看过全球第三方算力平台OpenRouter的一张图,对比的是人类和智能体消耗Token的数量。
今年2月份,智能体的Token消耗量首次超过人类,那时候正是龙虾OpenClaw项目刚火起来的时候。而到了9月底,智能体自主消耗的Token已经是人类的7倍左右。
这就相当于,跟你一起入职的张三,入职时你们每个月工资都是3000元,过了8个月,他的工资涨到了2万1。要是你,心态恐怕也得失衡。

这里面最核心的变化就是:之前是人类用AI去写代码,现在是人类派AI去写代码。这动作上的一字之差,放到经济账上,却意味着算力消耗的大幅增加。
但咱们仔细想想,这背后其实藏着一道所有公司迟早都要面对的题。只不过,大家没想到这一天来得这么快。
现在你去看各家公司的做法,会发现一件有意思的事:大家都在管Token消耗了,但管法完全不一样。
高盛CEO所罗门说得很直接,没必要让所有人每天都用最先进的模型。网络安全这类关键岗位才需要顶级模型,其他人用普通模型就够了。这是一种思路,按照岗位的重要性来分配。
思科走了另一条路,先放开,让3.2万名员工无限量使用。他们把这个过程叫作「学骑自行车」。等大家都会骑了,再按照管理层级设置预算,监控团队的使用情况。这等于是先撒开,后收回来。
国内大厂更热闹。腾讯一开始给每人年均22万元的Token资源,后来发现有人为了不浪费额度,搭了一堆没用的工作流在那里刷量。于是开始收缩,改成组内共用额度池,由组长来分配。
各部门差异也很大,据媒体报道,混元大模型团队员工每月额度7000元,腾讯娱乐外包员工每月只有1000元。
字节的思路又不一样,自家的模型不限量随便用;如果你要用外部模型,费用报销一半。产研岗年度上限1000美元,其他岗位300美元。
阿里更有意思,直接成立了一个叫Token Hub的事业群,由CEO亲自挂帅。
你把这些放在一起看,会发现每家公司其实都在回答同一道题,但给出的答案五花八门:有的按岗位分,有的按部门分,有的按内外部模型分,还有的干脆先不分,等问题冒出来再说。
确实,这道题现在没有标准答案。因为这是一道全新的考题,没有什么可以参考的样题,也没有哪个学霸能说自己的做法就是完美的。
你想想,这些公司哪家不会管预算?差旅预算、软件预算,管了几十年了。但Token预算,为什么谁都管不明白?
原因也简单,传统的资源分配逻辑,在这件事上失效了。
过去公司分配资源,逻辑很直白:级别越高,权限越大。比如很多公司的差旅方面,总监坐商务舱,一线员工坐经济舱;出差住酒店,老板和员工的预算也有差别。这都非常好理解。
但Token资源不是这样。用得最猛、用得最好的,很可能就是一线的年轻人。
他每天泡在代码里,泡在内容生产里,AI对他来说就像一把锤子,他一天要钉一百颗钉子。如果你做企业管理,也知道很多企业的第二曲线或者创新业务,往往都来自一线的实践。
比如Anthropic的翻身,就是因为几个一线员工自己小范围地做出来Claude code,并且先用在了自己的研发工作上,才有了现在Claude的收入规模,和它在企业代码市场上的碾压地位。
前面咱们说的这个道理,大家都能理解。但是,如果给一线同学都配上顶尖模型,你总不能给老板或者VP这些高层配一个最差、最便宜的模型吧?
这不仅仅是面子上过不去的问题,还有一个更根本的原因:如果老板自己都不知道最强AI的水平,他就更难理解AI现在到底能做什么,也就更不利于公司适应AI时代。
但这样一来,如果从VP到实习生,所有人都用最顶级的模型,那支出账单又撑不住了。
这就是现在企业落地AI的一个真实卡点。
按级别分,不合理。按需求分,那谁来判断谁的需求是真需求?甚至还有极端的案例,是按年龄分。虽然大家经常在社交媒体上看到,说AI时代要相信年轻人。
但真到了这个场景,可能有些人生理年龄很年轻,心态上却已经老态龙钟;有些人生理年龄已经很大了,却依然有非常强烈的好奇心。
说到这里,埃森哲有一组数据挺扎心的。他们分析了职业数据库里的9368项任务,发现只有大约10%的任务真正需要最强的前沿模型,但54%的AI请求使用了高于任务实际需要的模型档位。
要知道,前沿模型和中档模型,每个Token的价格能差10到20倍。大量的钱,就这样花在了「杀鸡用牛刀」上。
更麻烦的是,一旦你开始考核Token消耗量,刷量就来了。咱们之前也聊过,亚马逊有员工搭了一个内部排行榜,叫KiroRank,专门追踪同事的Token消耗。
结果大家疯狂刷榜,最后副总裁出来喊停,把排行榜删了。埃森哲的案例更典型。今年年初,埃森哲曾经把使用AI工具的情况和绩效、晋升挂钩。
后来,内部又发现,部分非技术员工把大量Token花在一些价值不高的事情上,比如用AI把PDF转换成PPT。你看,AI使用率高,并不等于工作价值高。
我之前还在广播站和你聊过一个类比,Token消耗量这东西,跟苏联钉子厂的故事很像:按重量考核,工人就造超大的钉子;按数量考核,工人就造细得像针一样的废品。
你用什么指标考核,就会收获什么样的扭曲。
Token消耗量是一个过程指标,不是结果指标。如果把它直接挂到每个人头上,你看到的就不是真实的使用情况了。
说到这里,可能有同学会想,那等Token降价了不就好了吗?模型每年都在变便宜,再熬一熬,这个问题是不是就自己消失了?
绝对不会。这就是杰文斯悖论最有意思的地方。简单和你说一下杰文斯悖论是啥:1865年,经济学家杰文斯发现了一件反直觉的事。
蒸汽机的效率提高了,按理说每台机器都省煤了,煤炭总消耗应该下降。但实际情况正好相反:煤动力变便宜了,更多行业开始使用蒸汽机,总需求爆发,煤炭消耗不降反升。
效率提升带来的节省,其实是油门,不是刹车。
Token也是一样。埃森哲做过一组测算,企业预计未来两年Token单价会下降19%,但用量会增长78%。如果不优化使用方式,算下来总支出反而会增加44%左右。
你看,单价降了,总支出反倒涨了。Box的CEO莱维说过一句特别形象的话:如果我的律师能以两倍速审查合同,我不会只雇一半律师,我们会以两倍速审查所有合同。
这不是理论上的推演,Salesforce就是活生生的「杰文斯悖论」企业版。模型能力越强,能干的事越多,员工就越敢往里面交各种任务,Token也就烧得越快。
你以为降价能解决问题,结果降价只是让你敢把AI用在更多地方,企业的总支出反而可能不降反升。
我曾经看到过国内一个大厂员工说的一句大实话:「因为AI,我们的工作量已经涨上去了,不会因为Token限额就降工作量。而且用AI以后,我很难再回归古法编程了。」
今年年中的时候,有不少企业集体官宣,优秀员工可以享受「无限Token」。我想了想,十年前,互联网公司招人喜欢写什么?
弹性工作、不打卡、可以带猫狗上班、有下午茶、有健身房。这些东西在当时都是一个信号,意思是我们公司很新潮,我们信任员工。
现在,这个信号可能正在变成:顶级AI,随便用。
反正现在我在团队里的管理方式还是比较粗放,每个人都可以自己调用公司配好的各种大模型,公司统一计费和管理,这里主要管的是异常消耗和安全问题。
另外上周,我也在公司内部搞了一个「AI抗大工作坊」,里面有十几位来自不同部门、不同岗位的同事,他们对AI有好奇心,也有自己特别想解决的问题。
对于他们,我和两位技术同事,会帮他们调教智能体,配上旗舰模型来实操。
在我看来,算力消耗多少只是一个数字,重要的是,这些消耗到底解决了什么问题——有些问题,花再多的Token去解决都值得;有些问题,压根就不值得让AI去干。
这中间,还是需要人的判断力。
说到这里,我也挺好奇大家的情况:你们公司现在是怎么管理AI使用的?有没有遇到过额度不够、需要自己掏钱的经历?欢迎你在评论区聊聊。
这道题没有标准答案,但每家公司的做法拿出来比较一下,可能就能看出点什么了。
如涉及版权问题请联系 hezuo@huxiu.com,我们将及时核实并处理。