数据中心账单吓出冷汗：聊聊真能用的低碳计算技术
九月二十三号在南京见了个做IDC的老朋友，酒过三巡，他掏出手机给我看月度电费账单。我一口酒差点喷出来。
小一百万。一百五十台服务器，七成能耗没跑业务，要么耗在散热，要么是空转等请求。
很多人提起低碳计算第一反应就是政策口号、环保概念，要么就是大企业才玩得起的面子工程，根本和自己没关系。可你算笔细账就知道，这完全是错的。
低碳计算技术不是要求大家少用算力，更不是为了拿补贴做样子，核心就是把浪费掉的能耗给省下来。什么叫浪费？一百瓦电进去，只有三十瓦用来算你要的业务，剩下七十瓦全变成热耗在散热里，或者空转跑没用的进程，这就是赤裸裸的浪费。
说实话，现在不管是大厂还是中小创业者，算力成本已经占到运营成本的三成到四成，省一度电就是赚一度电的钱，和赚多少钱比起来，环保反而是顺带的结果。
很多人觉得低碳计算就是把数据中心搬到水电站边上，或者全换太阳能供电，这只是其中一部分，而且是最外围的一部分。真的低碳计算，是从芯片设计、服务器架构、算法调度到业务分配，全链路每一处都抠每一度电。
中小型数据中心能耗分布饼图 低碳计算
第一个是动态算力错峰调度，说穿了就是该醒的时候醒，该睡的时候睡。大部分业务都有峰谷，电商白天流量大，夜间只有十分之一；企业办公系统工作日跑满，周末几乎没人用。原来的做法是不管多少流量，所有服务器全功率开着，就为了应对突发的峰值请求，相当于你家里24小时开着所有空调电灯，就为了偶尔进门能用上，这不浪费才怪。
现在的低碳调度，就是把闲下来的节点直接切深度休眠，要扩容的时候几分钟就能唤醒，根本不影响业务体验。我那个南京朋友，没换一台硬件，就是改了一套调度逻辑，每个月直接省了十八万电费，一年下来小两百万，够招三个高级工程师了。
第二个是算法层面的稀疏化动态激活，这个词听起来拗口，其实很好懂。就拿现在火得一塌糊涂的大模型来说，随便一个大模型都是上千亿参数，你问它「今天南京吃什么火锅推荐」，根本需要千亿参数全部工作，只需要用到和自然语言理解、本地生活信息相关的那一小部分参数就够了，剩下的参数全部断电休眠，这不就省电了？
我之前帮一个做本地生活的公司改他们的智能客服机器人，原来用全参数激活，每秒千次查询能耗是0.8度，改完稀疏化之后，降到0.5度都不到，准确率只降了0.7%，普通用户根本感觉不出来，一年下来直接省了六十多万电费，换谁不香？
大模型稀疏化激活能耗对比图 低碳计算
别踩坑，低碳计算也有不能碰的边界
说归说，我这两年见过太多踩坑的，要么是被概念忽悠，要么是走极端，反而亏了大钱，这里说几个常见的坑，给大家提个醒。
第一个坑，为了低碳瞎砍性能，捡芝麻丢西瓜。我之前见过一个做直播的公司，为了降能耗拿补贴，直接砍了三成边缘节点，结果一到周末直播高峰，用户卡得进都进不去，直接跑了三成付费用户，亏得比省的电费多一百倍都不止。
记住，低碳计算的核心是省无效能耗，不是砍必须的性能，这个底线碰都不能碰。
第二个坑，觉得低碳就是换绿电，技术无所谓。说实话，绿电当然是好东西，但就算你全用绿电，服务器空转一天，浪费的不止是电，还有生产服务器的时候消耗的各种资源——从硅料提纯到晶圆切割，从钢材生产到机房建设，哪一步不是高能耗堆出来的？浪费算力本质就是浪费全社会的资源，和你用不用绿电没关系。
第三个坑，信了那些「降能耗九成」的鬼话。真落地的低碳计算，能稳定降两成到三成能耗，已经是非常顶尖的水平了，剩下的空间要等下一代芯片、下一代光互联技术慢慢磨，哪有那么多革命性突破？大多都是割资本韭菜的故事罢了。
不过话说回来，现在AI大模型这么火，每天烧多少电，大家心里都有数。再过两年，算力需求还得翻好几倍，我们说双碳目标，不能只停留在上市公司的ESG报告里，对吧？
那天吃完饭在南京江边散步，朋友说，原来觉得减碳是给国家做贡献，搞低碳计算是给政策面子，现在才知道，这就是给自己赚银子，多省的钱，能拿来招更多人，做更多产品，顺带还减了碳，这不就是双赢吗？
我觉得这话比那些专家说的都对。低碳计算技术从来不是什么飘在天上的概念，是脚踩在地上，能摸得着、能省钱、真落地的实招。
小一百万。一百五十台服务器，七成能耗没跑业务，要么耗在散热，要么是空转等请求。
很多人提起低碳计算第一反应就是政策口号、环保概念，要么就是大企业才玩得起的面子工程，根本和自己没关系。可你算笔细账就知道，这完全是错的。
不是环保噱头，是算得清的生意
现在国内算力规模每年涨超过三成，前两年参加行业会，听到一个数据，再过两年全行业数据中心总能耗，要赶上整个三峡电站的年发电量。说出来吓人吧？低碳计算技术不是要求大家少用算力，更不是为了拿补贴做样子，核心就是把浪费掉的能耗给省下来。什么叫浪费？一百瓦电进去，只有三十瓦用来算你要的业务，剩下七十瓦全变成热耗在散热里，或者空转跑没用的进程，这就是赤裸裸的浪费。
说实话，现在不管是大厂还是中小创业者，算力成本已经占到运营成本的三成到四成，省一度电就是赚一度电的钱，和赚多少钱比起来，环保反而是顺带的结果。
很多人觉得低碳计算就是把数据中心搬到水电站边上，或者全换太阳能供电，这只是其中一部分，而且是最外围的一部分。真的低碳计算，是从芯片设计、服务器架构、算法调度到业务分配，全链路每一处都抠每一度电。
中小型数据中心能耗分布饼图 低碳计算
真能落地的方向，其实没那么玄乎
我接触过很多做低碳方案的，张口就是黑科技、革命性突破，其实目前最赚钱、最容易落地的两个方向，一点都不玄乎，稍微改改就能用。第一个是动态算力错峰调度，说穿了就是该醒的时候醒，该睡的时候睡。大部分业务都有峰谷，电商白天流量大，夜间只有十分之一；企业办公系统工作日跑满，周末几乎没人用。原来的做法是不管多少流量，所有服务器全功率开着，就为了应对突发的峰值请求，相当于你家里24小时开着所有空调电灯，就为了偶尔进门能用上，这不浪费才怪。
现在的低碳调度，就是把闲下来的节点直接切深度休眠，要扩容的时候几分钟就能唤醒，根本不影响业务体验。我那个南京朋友，没换一台硬件，就是改了一套调度逻辑，每个月直接省了十八万电费，一年下来小两百万，够招三个高级工程师了。
第二个是算法层面的稀疏化动态激活，这个词听起来拗口，其实很好懂。就拿现在火得一塌糊涂的大模型来说，随便一个大模型都是上千亿参数，你问它「今天南京吃什么火锅推荐」，根本需要千亿参数全部工作，只需要用到和自然语言理解、本地生活信息相关的那一小部分参数就够了，剩下的参数全部断电休眠，这不就省电了？
我之前帮一个做本地生活的公司改他们的智能客服机器人，原来用全参数激活，每秒千次查询能耗是0.8度，改完稀疏化之后，降到0.5度都不到，准确率只降了0.7%，普通用户根本感觉不出来，一年下来直接省了六十多万电费，换谁不香？
大模型稀疏化激活能耗对比图 低碳计算
别踩坑，低碳计算也有不能碰的边界
别踩坑，低碳计算也有不能碰的边界
说归说，我这两年见过太多踩坑的，要么是被概念忽悠，要么是走极端，反而亏了大钱，这里说几个常见的坑，给大家提个醒。第一个坑，为了低碳瞎砍性能，捡芝麻丢西瓜。我之前见过一个做直播的公司，为了降能耗拿补贴，直接砍了三成边缘节点，结果一到周末直播高峰，用户卡得进都进不去，直接跑了三成付费用户，亏得比省的电费多一百倍都不止。
记住，低碳计算的核心是省无效能耗，不是砍必须的性能，这个底线碰都不能碰。
第二个坑，觉得低碳就是换绿电，技术无所谓。说实话，绿电当然是好东西，但就算你全用绿电，服务器空转一天，浪费的不止是电，还有生产服务器的时候消耗的各种资源——从硅料提纯到晶圆切割，从钢材生产到机房建设，哪一步不是高能耗堆出来的？浪费算力本质就是浪费全社会的资源，和你用不用绿电没关系。
第三个坑，信了那些「降能耗九成」的鬼话。真落地的低碳计算，能稳定降两成到三成能耗，已经是非常顶尖的水平了，剩下的空间要等下一代芯片、下一代光互联技术慢慢磨，哪有那么多革命性突破？大多都是割资本韭菜的故事罢了。
不过话说回来，现在AI大模型这么火，每天烧多少电，大家心里都有数。再过两年，算力需求还得翻好几倍，我们说双碳目标，不能只停留在上市公司的ESG报告里，对吧？
那天吃完饭在南京江边散步，朋友说，原来觉得减碳是给国家做贡献，搞低碳计算是给政策面子，现在才知道，这就是给自己赚银子，多省的钱，能拿来招更多人，做更多产品，顺带还减了碳，这不就是双赢吗？
我觉得这话比那些专家说的都对。低碳计算技术从来不是什么飘在天上的概念，是脚踩在地上，能摸得着、能省钱、真落地的实招。