低碳计算技术:藏在服务器机房里的减碳革命
上个月去华东逛了个新建的智算中心,踩进去第一感觉居然是凉的,不闷。
不像我五年前摸的老机房,进去五分钟后背全湿,空调声大到说话要扯着嗓子喊。那一趟逛下来,我才明白,现在说的低碳计算技术,真不是展厅里贴海报喊口号的东西。
智算中心低碳计算服务器集群散热布局图
你知道传统老旧数据中心的PUE一般是多少?老的能到1.8甚至2,意思就是你花一度电算任务,还要花将近一度电给它降温。一半的电都耗在了散热上,纯纯的浪费。
现在国内头部的低碳智算中心,能把PUE压到1.09,已经接近理论极限了。一度电算完任务,只用不到0.1度来降温,一年下来,一个100P算力的智算中心,省的电费能雇三个全职研发团队了。
说实话,现在大模型烧电烧得有多凶,行业内的人都懂。OpenAI光ChatGPT一年的电费估计就有好几亿美金,要是能把PUE降下来,再把算法优化到位,成本直接砍一截,换谁不心动啊?
存算一体低碳计算芯片晶圆实物图
不过话说回来,现在很多技术还停留在实验室,或者只有头部厂商玩得起。为什么?改全栈架构要砸真金白银,旧设备淘汰的沉没成本太高,中小算力公司根本掏不起这个钱。
哦对,还有一个很有意思的方向,就是软件层面的低碳优化——你写代码其实也能减碳。把没用的循环删掉,把冗余的内存调用砍了,相同的任务就能少耗电。去年Github上还有专门的低碳代码提交活动,好多开发者参与,这个真的是从根上减碳,对吧?
低碳计算接下来的坑和机会,都摆在明面上
现在行业里吹得太凶,好多公司换个包装就说自己做低碳计算,其实就是机房换了两个节能灯,攒个项目骗补贴的。这种乱象见多了,真的挺烦的。
真要落地低碳计算,首先要过的就是成本坎。你花一个亿改技术,五六年才能回本,很多企业根本等不起。还有就是标准不统一,现在减碳量怎么算?不同机构的算法算出来差一倍都有,好多企业拿着虚高的减碳量去骗绿标、卖碳汇,坑了不少人。
但机会也真的大。双碳目标是硬要求,未来所有新建的大型数据中心,PUE不达标根本拿不到批文,这个门槛已经架起来了。
再说了,现在AI大模型的算力需求每三个月就翻一倍,再这么烧下去,就算企业不在乎成本,当地电网也扛不住啊。所以低碳计算技术根本不是可选项,是未来整个算力行业的入场券。
我上个月跟一个做算力租赁的老板吃饭,他说现在客户租算力,开口先问你PUE多少、用的是不是绿电,价格差不多的情况下,全选低碳的。客户已经在用脚投票了,风向早就变了。
还有,现在国内碳交易市场越来越成熟,你靠技术减下来的碳额,能直接拿到市场上卖钱,相当于多了一笔稳定的额外收入,这不比啥补贴都香?
前阵子见一个做低碳芯片的创业团队,他们说现在投资人见他们第一句就问,你这个芯片能效比多少,符不符合低碳要求,不符合直接不聊。
别小看这一度一度电省下来的事,全国数据中心现在一年的耗电量,快顶得上整个上海市的全年用电量了。要是全行业都用上成熟的低碳计算技术,一年减下来的碳,相当于种了上亿棵树,这不就是实实在在改变我们生活的技术进步吗?
别拿低碳计算当概念,它真金白银在省钱
很多人一听到低碳,第一反应就是环保作秀,要企业贴钱换名声。不对啊。 国内某头部云厂商去年公开的数据,靠全栈优化低碳计算技术,一年省了快12亿电费。啥概念?一个二线中小城市全年居民用电才多少?这个数够小半个城市用一年了。 低碳计算不是说把服务器关了少跑业务,是从芯片架构到调度算法全链条改,把每一度电都用在计算上,不是用来给机器散热。
智算中心低碳计算服务器集群散热布局图
你知道传统老旧数据中心的PUE一般是多少?老的能到1.8甚至2,意思就是你花一度电算任务,还要花将近一度电给它降温。一半的电都耗在了散热上,纯纯的浪费。
现在国内头部的低碳智算中心,能把PUE压到1.09,已经接近理论极限了。一度电算完任务,只用不到0.1度来降温,一年下来,一个100P算力的智算中心,省的电费能雇三个全职研发团队了。
说实话,现在大模型烧电烧得有多凶,行业内的人都懂。OpenAI光ChatGPT一年的电费估计就有好几亿美金,要是能把PUE降下来,再把算法优化到位,成本直接砍一截,换谁不心动啊?
现在主流的低碳计算技术,到底玩的是什么花样
很多人一提到数据中心减碳,第一反应就是装光伏、搞风冷,那都是外围配套手段,真正的核心功夫,在计算本身。 给你掰扯几个实打实已经落地的方向: 第一个就是动态负载调压调频技术,说人话就是,负载低的时候,芯片主动降频降压,不用一直死扛着满功率跑。很多互联网公司的后台服务,夜间负载只有白天高峰的两成,之前不管忙闲服务器都是二十四小时满功率转,纯纯浪费电。现在靠这个技术,空载时段直接省了三成多的电,一点不影响用户体验。 第二个就是跨网算力调度技术,说白了就是把任务挪到更便宜更绿的地方去算。东北冬天零下二三十度,自然风冷就能满足散热需求,省了大空调的电;西北风电光伏资源多,弃风弃电的时候电价只要一毛钱一度,把对时延不敏感的训练任务调度过去,不仅用了绿电减碳,算力成本直接砍半。 第三个就是新架构的低碳芯片,现在RISC-V架构的推理芯片,相同算力下功耗比传统X86架构低快一半了。更狠的是现在火的存算一体技术,把存储单元和计算单元做在一起,不用数据在内存和计算单元之间来回跑,功耗直接降了一个数量级。 我上周刚看了南大实验室发的最新成果,存算一体的低碳计算芯片做大模型推理,能效比能做到普通商用GPU的八倍。这个数字真的惊到我了。
存算一体低碳计算芯片晶圆实物图
不过话说回来,现在很多技术还停留在实验室,或者只有头部厂商玩得起。为什么?改全栈架构要砸真金白银,旧设备淘汰的沉没成本太高,中小算力公司根本掏不起这个钱。
哦对,还有一个很有意思的方向,就是软件层面的低碳优化——你写代码其实也能减碳。把没用的循环删掉,把冗余的内存调用砍了,相同的任务就能少耗电。去年Github上还有专门的低碳代码提交活动,好多开发者参与,这个真的是从根上减碳,对吧?
低碳计算接下来的坑和机会,都摆在明面上
低碳计算接下来的坑和机会,都摆在明面上
现在行业里吹得太凶,好多公司换个包装就说自己做低碳计算,其实就是机房换了两个节能灯,攒个项目骗补贴的。这种乱象见多了,真的挺烦的。
真要落地低碳计算,首先要过的就是成本坎。你花一个亿改技术,五六年才能回本,很多企业根本等不起。还有就是标准不统一,现在减碳量怎么算?不同机构的算法算出来差一倍都有,好多企业拿着虚高的减碳量去骗绿标、卖碳汇,坑了不少人。
但机会也真的大。双碳目标是硬要求,未来所有新建的大型数据中心,PUE不达标根本拿不到批文,这个门槛已经架起来了。
再说了,现在AI大模型的算力需求每三个月就翻一倍,再这么烧下去,就算企业不在乎成本,当地电网也扛不住啊。所以低碳计算技术根本不是可选项,是未来整个算力行业的入场券。
我上个月跟一个做算力租赁的老板吃饭,他说现在客户租算力,开口先问你PUE多少、用的是不是绿电,价格差不多的情况下,全选低碳的。客户已经在用脚投票了,风向早就变了。
还有,现在国内碳交易市场越来越成熟,你靠技术减下来的碳额,能直接拿到市场上卖钱,相当于多了一笔稳定的额外收入,这不比啥补贴都香?
前阵子见一个做低碳芯片的创业团队,他们说现在投资人见他们第一句就问,你这个芯片能效比多少,符不符合低碳要求,不符合直接不聊。
别小看这一度一度电省下来的事,全国数据中心现在一年的耗电量,快顶得上整个上海市的全年用电量了。要是全行业都用上成熟的低碳计算技术,一年减下来的碳,相当于种了上亿棵树,这不就是实实在在改变我们生活的技术进步吗?