别再卷GPU算力了，神经形态计算正在悄悄把AI功耗打下来
上周挤地铁去中科院半导体所的小范围沙龙，出站的时候还踩了一脚积水，心情本来有点down。直到听研究人员聊起现在跑大模型推理的电费，我瞬间就共情了——上个月跟一个做端侧大模型的创业团队老板吃饭，他说自己租服务器每个月的账单，够给全团队发半个月工资。真的。
那天最让我愣神的不是大家集体吐槽算力贵，是有人从帆布包里掏出来一个巴掌大的芯片，往桌上一放，说这东西跑同等规模的视觉识别模型，功耗才120毫瓦。
我当时第一反应是不信。
直到他接了个微型的摄像头，屏幕上实时跳出识别到的水杯、笔记本、在场的人，整个过程流畅得很，芯片连个发热的感觉都没有。就是现在圈子里聊得很热的神经形态计算的样品。
现在大家用的不管是GPU还是CPU，本质上都逃不开冯诺依曼架构的框架。算和存是完全分开的两个模块，每次计算需要数据的时候，就得从存储单元把数据拖到计算单元，算完了再把结果存回去。就像你每次做一道高数题，都要把课本从书柜翻到书桌，算两笔又把书放回去，下次要查公式再翻一遍——来回折腾的过程，大半的能量都耗在搬东西上了，真正用在计算上的能耗少得可怜。
人脑完全不是这个逻辑。人脑是存算一体的，神经元和突触就在同一个位置，信号来了直接在本地处理，根本没有来回倒腾的损耗。你算啊，人脑整体功耗才20瓦，差不多一个老式白炽灯泡，能同时处理视觉、听觉、语言输入，还能精准回忆起小学三年级班主任叫你回答问题的紧张感。现在最顶级的AI GPU，跑个千亿参数模型，功耗动辄几千瓦，连人脑的零头都赶不上。
神经形态芯片与传统GPU功耗对比柱状图
之前大家总觉得神经形态计算是实验室里飘着的黑科技，离商用远得很。真不是。去年英特尔流片的Loihi2芯片，已经能做到在端侧实时跑多模态情绪识别，功耗只有传统CPU方案的1/100。还有清华团队搞的天机芯3，上次我看他们的公开演示，给小型无人车装上去，跑复杂的林间路径避障，整个过程芯片功耗才几十毫瓦——连给它供能的纽扣电池，都比芯片本身重。我当时盯着屏幕看演示的时候真的鸡皮疙瘩都起来了，这哪是下一代芯片啊，这简直是把人脑的工作逻辑直接刻到硅片上了。
说实话，现在很多营销号一提到神经形态计算，就张口要干掉英伟达、颠覆整个AI行业——纯纯扯淡。
你想啊，神经形态计算的核心是脉冲神经网络，跟现在大模型主流用的连续值人工神经网络，从根上的数学逻辑就不一样。现在的Transformer是靠连续的数值矩阵运算跑通的，喂给神经形态芯片的话，你得做一层复杂的格式转换，反而会损失效率。现在拿它去做千亿大模型的训练？差得不是一点半点。
那它现在到底能干啥？就是那些对功耗极度敏感、对延迟要求拉满的场景。
比如你家里的智能摄像头，现在的方案是把所有视频流传到云端做识别，不仅费电，还总让人觉得隐私没处放。如果把神经形态芯片塞到摄像头里，整个识别过程全在本地跑，功耗只有原来的几十分之一，靠一块小电池就能跑一整年。还有智能手表，现在要做心率异常检测、跌倒识别，动不动就要唤醒主CPU跑算法，费电得很。如果加个神经形态的小协处理器，这些低强度的感知任务直接给办了，手表续航能翻两三倍。
天机芯3芯片搭载无人车林间避障演示场景图
我上个月跟一个做工业巡检的团队聊，他们之前把传统传感器装在煤矿井下，因为要持续采集振动数据做设备故障诊断，三个月就要换一次电池——换一次电池的人工成本，比传感器本身贵十倍。后来换了搭载神经形态芯片的传感器，设备能自己识别异常的振动信号，只有真的出现故障概率的时候，才把数据传出去。现在电池能撑三年。你说这香不香？
现在的最大障碍，根本不是芯片本身
很多人觉得神经形态计算的难点是造不出芯片。真不是。
不管是英特尔的Loihi2，还是国内清华、浙大团队流片成功的几款类脑芯片，硬件性能其实已经摸到商用的门槛了。现在真正卡脖子的，是软件生态。
你想啊，现在你买个英伟达的显卡，不管是跑PyTorch还是TensorFlow，开箱就能用，各种算子、各种开源模型都有现成的支持。神经形态计算呢？你想给它写个简单的程序，得先从头学脉冲神经网络的建模逻辑，得懂怎么把传统的ANN模型转换成SNN的适配格式，整个工具链跟现在主流的AI框架完全不兼容。之前有个做类脑研究的朋友跟我吐槽，说他上次给Loihi2写个简单的手势识别程序，光调脉冲触发的阈值就花了一周。换做是GPU的话，半小时就能跑通demo。
这种生态的断层，才是现在最大的拦路虎。
不过话说回来，现在已经有团队在补这个缺口了。去年中科院自动化所推出的SNN转换框架，能把已经训练好的ResNet、ViT模型几乎无损耗地转换成适配神经形态芯片的格式，转换效率比之前的老方法高了40%。这东西要是真成熟了，整个模型迁移的成本就直接打下来了。
那天沙龙散场的时候，有个做了二十年类脑研究的老教授跟我说，大家总觉得神经形态计算是个突然冒出来的新技术，其实早在1980年代就有人提出了完整的架构思路。为什么隔了四十年才突然火起来？因为之前的AI太费电了。
你算啊，现在全球数据中心的总用电量，已经占到全球总发电量的2%了。要是再这么靠堆GPU、堆算力往下走，别说电网扛不扛得住，就算扛得住，那高昂的电费最后不还是要算到每个用户头上？
我之前总觉得技术突破就是要算力越来越强，芯片越做越大，直到上次摸到那个巴掌大的神经形态芯片，看着它流畅跑通实时视觉识别，功耗还没个指甲盖大的LED灯高——突然就觉得，之前走的路好像有点偏。
我们造了那么多跟人脑逻辑完全不一样的机器，费了那么多电去追接近智能的目标，其实回头看看，大自然早就把最节能的智能方案，写在我们自己的大脑里了。
那天最让我愣神的不是大家集体吐槽算力贵，是有人从帆布包里掏出来一个巴掌大的芯片，往桌上一放，说这东西跑同等规模的视觉识别模型，功耗才120毫瓦。
我当时第一反应是不信。
直到他接了个微型的摄像头，屏幕上实时跳出识别到的水杯、笔记本、在场的人，整个过程流畅得很，芯片连个发热的感觉都没有。就是现在圈子里聊得很热的神经形态计算的样品。
我们骂了GPU这么多年，其实从根上就错了？
现在大家用的不管是GPU还是CPU，本质上都逃不开冯诺依曼架构的框架。算和存是完全分开的两个模块，每次计算需要数据的时候，就得从存储单元把数据拖到计算单元，算完了再把结果存回去。就像你每次做一道高数题，都要把课本从书柜翻到书桌，算两笔又把书放回去，下次要查公式再翻一遍——来回折腾的过程，大半的能量都耗在搬东西上了，真正用在计算上的能耗少得可怜。
人脑完全不是这个逻辑。人脑是存算一体的，神经元和突触就在同一个位置，信号来了直接在本地处理，根本没有来回倒腾的损耗。你算啊，人脑整体功耗才20瓦，差不多一个老式白炽灯泡，能同时处理视觉、听觉、语言输入，还能精准回忆起小学三年级班主任叫你回答问题的紧张感。现在最顶级的AI GPU，跑个千亿参数模型，功耗动辄几千瓦，连人脑的零头都赶不上。
神经形态芯片与传统GPU功耗对比柱状图
之前大家总觉得神经形态计算是实验室里飘着的黑科技，离商用远得很。真不是。去年英特尔流片的Loihi2芯片，已经能做到在端侧实时跑多模态情绪识别，功耗只有传统CPU方案的1/100。还有清华团队搞的天机芯3，上次我看他们的公开演示，给小型无人车装上去，跑复杂的林间路径避障，整个过程芯片功耗才几十毫瓦——连给它供能的纽扣电池，都比芯片本身重。我当时盯着屏幕看演示的时候真的鸡皮疙瘩都起来了，这哪是下一代芯片啊，这简直是把人脑的工作逻辑直接刻到硅片上了。
别被“替代GPU”的噱头骗了，它现在根本抢不了大模型训练的饭碗
说实话，现在很多营销号一提到神经形态计算，就张口要干掉英伟达、颠覆整个AI行业——纯纯扯淡。
你想啊，神经形态计算的核心是脉冲神经网络，跟现在大模型主流用的连续值人工神经网络，从根上的数学逻辑就不一样。现在的Transformer是靠连续的数值矩阵运算跑通的，喂给神经形态芯片的话，你得做一层复杂的格式转换，反而会损失效率。现在拿它去做千亿大模型的训练？差得不是一点半点。
那它现在到底能干啥？就是那些对功耗极度敏感、对延迟要求拉满的场景。
比如你家里的智能摄像头，现在的方案是把所有视频流传到云端做识别，不仅费电，还总让人觉得隐私没处放。如果把神经形态芯片塞到摄像头里，整个识别过程全在本地跑，功耗只有原来的几十分之一，靠一块小电池就能跑一整年。还有智能手表，现在要做心率异常检测、跌倒识别，动不动就要唤醒主CPU跑算法，费电得很。如果加个神经形态的小协处理器，这些低强度的感知任务直接给办了，手表续航能翻两三倍。
天机芯3芯片搭载无人车林间避障演示场景图
我上个月跟一个做工业巡检的团队聊，他们之前把传统传感器装在煤矿井下，因为要持续采集振动数据做设备故障诊断，三个月就要换一次电池——换一次电池的人工成本，比传感器本身贵十倍。后来换了搭载神经形态芯片的传感器，设备能自己识别异常的振动信号，只有真的出现故障概率的时候，才把数据传出去。现在电池能撑三年。你说这香不香？
现在的最大障碍，根本不是芯片本身
现在的最大障碍，根本不是芯片本身
很多人觉得神经形态计算的难点是造不出芯片。真不是。
不管是英特尔的Loihi2，还是国内清华、浙大团队流片成功的几款类脑芯片，硬件性能其实已经摸到商用的门槛了。现在真正卡脖子的，是软件生态。
你想啊，现在你买个英伟达的显卡，不管是跑PyTorch还是TensorFlow，开箱就能用，各种算子、各种开源模型都有现成的支持。神经形态计算呢？你想给它写个简单的程序，得先从头学脉冲神经网络的建模逻辑，得懂怎么把传统的ANN模型转换成SNN的适配格式，整个工具链跟现在主流的AI框架完全不兼容。之前有个做类脑研究的朋友跟我吐槽，说他上次给Loihi2写个简单的手势识别程序，光调脉冲触发的阈值就花了一周。换做是GPU的话，半小时就能跑通demo。
这种生态的断层，才是现在最大的拦路虎。
不过话说回来，现在已经有团队在补这个缺口了。去年中科院自动化所推出的SNN转换框架，能把已经训练好的ResNet、ViT模型几乎无损耗地转换成适配神经形态芯片的格式，转换效率比之前的老方法高了40%。这东西要是真成熟了，整个模型迁移的成本就直接打下来了。
那天沙龙散场的时候，有个做了二十年类脑研究的老教授跟我说，大家总觉得神经形态计算是个突然冒出来的新技术，其实早在1980年代就有人提出了完整的架构思路。为什么隔了四十年才突然火起来？因为之前的AI太费电了。
你算啊，现在全球数据中心的总用电量，已经占到全球总发电量的2%了。要是再这么靠堆GPU、堆算力往下走，别说电网扛不扛得住，就算扛得住，那高昂的电费最后不还是要算到每个用户头上？
我之前总觉得技术突破就是要算力越来越强，芯片越做越大，直到上次摸到那个巴掌大的神经形态芯片，看着它流畅跑通实时视觉识别，功耗还没个指甲盖大的LED灯高——突然就觉得，之前走的路好像有点偏。
我们造了那么多跟人脑逻辑完全不一样的机器，费了那么多电去追接近智能的目标，其实回头看看，大自然早就把最节能的智能方案，写在我们自己的大脑里了。