引言
每一次和大模型对话,背后都有一台服务器在耗电。一次对话的电费微乎其微,但当每天有成千上万次对话同时发生,这笔账就变得惊人。大模型的电费与碳账,是 AI 繁荣背后最容易被忽略的一笔账,也是最难回避的一笔账。
电花在哪里
大模型的用电分两块:训练和推理。训练是集中用电:成千上万张加速卡连续满负荷运转数周甚至数月,耗电量堪比一座小型城市的用电。推理是分散用电:每一次对话、每一次生成都要调用算力,单次不大,但总量随用户规模线性增长。随着模型从“少数人用”变成“人人都在用”,推理用电正在超过训练,成为耗电的大头。数据中心还要为散热额外付电费:芯片越热,空调越忙,电表转得越快。
碳账怎么算
用电不等于排碳,关键看电从哪来。建在水电、风电丰富地区的数据中心,碳足迹远低于依赖煤电的同类设施。不少大公司已经开始把数据中心往清洁能源丰富的地方搬,或者直接签长期绿电协议。但这笔账并不好算:电网是混合供电,一度电的碳含量很难精确归属;训练用的电、推理用的电、散热用的电,边界也不好划。碳账的数字看看就好,重要的是趋势:AI 的用电量在涨,减排的速度能不能跟上,是个真问题。
省电的几条路
行业省电的思路和省钱的思路高度重合:模型越小、推理越省电,所以蒸馏、量化这些压缩技术既省成本也省电;请求越少越省电,所以缓存常见回答、把简单问题交给小模型,同样一举两得;硬件越高效越省电,新一代芯片每瓦算力在持续提升。还有一个容易被忽视的方向:别让模型做不必要的工作。很多调用其实可以不用大模型,杀鸡用牛刀,浪费的是电。
增长与减排的拉锯
大模型用电增长的速度,正在和减排的速度赛跑。一边是用户量和调用量持续上涨,另一边是芯片效率和绿电比例也在提升。短期内增长大概率跑在前面,长期则取决于两个变量:模型效率的提升能不能抵消规模的扩张,以及能源结构转型的速度。这笔账没有简单的答案,但它决定了 AI 繁荣的可持续性:一个靠天量耗电支撑的繁荣,终究要回答能源从哪来的问题。
普通用户能做什么
对普通用户来说,这笔账也有现实意义。不是每次提问都需要调用最大的模型,简单问题用小模型、把多步问题一次问清楚、少做无意义的重复生成,都能实实在在省电。更重要的是建立一个意识:AI 服务不是免费的自然资源,每一次调用都有真实的能源成本。知道电花在哪,用的时候才会有分寸。AI 的未来不只是更聪明,还要更省电,这两者缺一不可。
服务商这边同样有责任把选择权交给用户:提供不同档位的模型、标明每次调用的大致能耗、让用户在速度和能耗之间自己选。透明是最好的节能手段——当用户看得见成本,行为自然会调整。AI 普及的速度越快,这套透明机制就越重要,否则等到用电量大到不得不面对的时候,再补功课就晚了。