2026-07-07 21:56

浅谈算力中心和Token(词元)供给是否过剩?

author_path 汇金有道曹博文
头图

本文来自微信公众号: 汇金有道曹博文 ,作者:曹博文


国内很多大模型公司主要是采用租用算力中心的方式,包括我们熟知的KIMI、Minimax、智谱;而千问(阿里)和豆包(字节)、deepseek(深度求索)、元宝(腾讯)是采用的自建AI算力中心,阿里、字节、腾讯也会出租算力,成为其他国产大模型的第三方云服务商。而国外大模型厂家基本都是采用自身


那么从这个角度看上周的Meta出租闲置算力,就会是一个非常自然的事情:而核心原因其实是Meta的大模型性能不行(不如Anthropic、Open AI、谷歌,国内称为御三家),市场不买账,并且Meta自己的Agent研发进展缓慢(可能与国内官方叫停Meta用20亿美元Manus收购有关)。Meta算力中心本来就是为了未来的需求而准备,现在闲置了,自然应该租出去回血,毕竟Meta未来还要继续建算力中心;如果一边算力闲置,一边又建算力中心,可不好跟股东们交代。马斯克的X AI和Meta是同样情况,并且更早地卖出闲置算力。


算力中心的成本


算力中心的成本包括前期的建设,包括土地成本、建设成本、购买AI相关硬件的成本;以及后续的运营维护成本。其中土地成本和建设成本是一次性支出,购买AI相关硬件成本和运营维护成本是不断叠加的;AI相关的硬件成本包括GPU、CPU、存储、管线、网络、供电冷却设备。


很多人认为电费是运行这座算力中心的大头,其实这并不正确。根据沐曦股份的算法,一座1GW的数据中心(总投资是550亿美金),按照4年为一个周期,GPU的采购成本是250亿美金,网络50亿美金、存储40亿美金、供电散热是27.5亿美金,也就是说电费占比只有5%,而大头仍然是英伟达提供的超高利润GPU设备。


GPU的折旧与更新


目前GPU的折旧很多是按照6年左右计算的,像上文提到的4年折旧非但不是激进的,而已经折中,按照激进的计算方式是2~3年;因为我们会看到英伟达原本是2年更新一代GPU服务器,现在按照当前的路线图已经计划一年更新一代;目前已经开始交付的GB300 NVL72服务器价格比上一代GB200 NVL72高出50%,但是各方面性能比GB200高出了1.5~2倍,能耗只增加了15%左右,那大家自然又要买。


那么就要想一个问题,目前数据中心的利润能否支持550亿美金的投资,至少要在4年内赚够资金来购买下一代产品?目前英伟达在今年下半年将要交付的VR200采用了新架构Rubin,价格比GB300又贵了接近一倍。


算力中心能生产多少Token


先来做一个假设,即构建了一个1GW的算力中心,全部采用英伟达GB300,大概是配置7100个GB300机架,一个机架成本大概是400万美元,批量采购可能会便宜些,所以沐曦股份推算的250亿美元是合理成本;那么一天中满负荷、70%、50%负荷下运行能产生多少token,这些token能卖多少钱?


由于GPT5.5是闭源模型,所以我们是没有办法知道它的具体性能、权重、参数量、架构细节,也就导致无法知道其具体产生token量。


因此我选择通过与其性能接近的GLM5.2(参数分别是744B/40B,MoE,NVFP4)来进行大体推算;由于GPT5.5的模型理论上是比GLM5.2更加复杂,因此在使用GPT5.5模型的情况下token产出量会比GLM5.2少一些,但是差距不会太大。再根据GPT5.5的计费方式,就可以通过token量推算出大致的收入(仅是API角度去计算,因为还有包月套餐以及企业用户的折扣)。


但是当事情进行到这一步的时候,出现了一个很有意思的问题:即这1GW的数据中心按照100%的利用率,最大能产生大约200万亿~400万亿的token/天(根据调用模型的复杂程度不同)。


每日Token产出量=511200张GPU(7100个机架,每个机架有72张GPU)*单GPU产出量*86400秒*利用率


单张GPU产出量在SemiAnalysis(真实场景)、MLPerf Server(行业标准测试,要求低延迟)、MLPerf Offline(行业标准测试,只追最大吞吐)三种情况下分别是5250token/秒、8064token/秒、9821token/秒。


Token的市场需求如何


高盛在26年5月5日发布的《Decoding the Agentic Economy:The Coming Inflection in AI Usage and Margins》这篇研报,预计到2030年,全球Token月消耗量将比2026年增长24倍,达到约120千万亿(120 quadrillion)Token/月。那也就是说当前的消耗量应该是5quadrillionToken/月,折算到每天就是166万亿token。


而一个1GW的最先进算力中心在100%利用率情况下,运行先进模型的就能产生200万亿~400万亿的token,即使全部采用精度更高的NVFP8,会导致产出的token量相较于NVFP4精度会减少一半;而目前全球的AI算力中心大概是21GW,仍然是明显的token过剩了?


这也是我从另一个角度去分析,为什么目前算力中心处于闲置,利用率不高,因为当下并没有那么多的需求。前文讨论了市场对某个AI的性能认可度影响了算力中心的利用率。


再一点是国外大模型的计价确实非常高,并且模型差距并不是非常大,C端用户完全可以用便宜的模型来做简单和中等难度的任务,仅使用贵的模型去完成困难、复杂任务,这也进一步降低了算力中心的利用率。


目前的很多使用了Anthropic和Open AI大模型的公司,正在因为token价格过于昂贵,开始收缩支出,使得Anthropic和Open AI的企业端(B端)收入受到影响。


下篇文章会继续从其他角度解析AI泡沫以及泡沫有可能破灭的时间节点。

本内容由作者授权发布,观点仅代表作者本人,不代表虎嗅立场。
如对本稿件有异议或投诉,请联系 tougao@huxiu.com。