神经形态计算：为什么它是AI破局的下一张船票？
你有没有发现，现在聊AI，所有人都在说大模型、说参数、说AGI，很少有人聊支撑AI跑起来的硬件底子？
现在的AI有多费电？训练一个千亿参数的大模型，耗电极速超过500MWh，换算下来，差不多是一个普通三口之家100年的用电量。
这里面，一大半的电都被浪费了。
你没听错。
因为我们现在用的所有芯片，从手机到GPU，都是基于冯诺依曼架构，这个架构跑了几十年，现在遇到了绕不开的冯诺依曼瓶颈：存储和计算是分开的，每次运算都要把数据从内存搬到计算单元，算完再搬回去。当数据量够大的时候，搬运数据花的时间和功耗，远比计算本身多得多。
传统冯诺依曼架构存算分离示意图
这时候神经形态计算就被推到台前了。很多人一听“类脑计算”“神经形态”就觉得是炒概念，是十几年前的老调重弹，其实真不是。
神经形态计算脉冲神经元工作原理示意图
现在已经有小范围落地的场景了。比如工业上的传感器节点，要一直做AI检测，又不能拉电线，换电池也麻烦，用神经形态芯片，一块电池能用好几年，这不比传统方案香？还有智能穿戴设备、自动驾驶的边缘处理，都能用上。
不过话说回来，现在神经形态计算还没到能大规模商用的地步，问题真不少。
离普及还有多远？现在卡在哪了？
第一个大问题就是生态。现在所有的AI框架，所有的训练推理流程，都是给传统冯诺依曼架构做的，要把现有模型迁移到神经形态芯片上，相当于重新造一遍轮子，成本太高，很多企业根本不愿意碰。
第二个问题是，神经元的精度问题。脉冲信号是离散的，计算精度肯定不如传统的浮点计算，做一些复杂的大模型推理，误差还是控不住，现在还只能做一些相对简单的边缘任务，没法拿去训大模型。
还有就是制造工艺，现在要做高密度的突触阵列，对忆阻器等新型存储器件的良率要求很高，大规模量产的成本还降不下来。
但你要说它没机会？那绝对不对。去年ChatGPT带火了整个人工智能行业，算力缺口直接被拉到空前大，所有人都在找下一个性能增长点，资本疯了一样往这个领域砸钱。2023年国内光是神经形态方向的创业公司，融资总额就超过了20亿人民币，英特尔、IBM、三星这些巨头，每年的研发投入都是十亿美金级别往上走。
我上个月参加一个小范围的行业沙龙，坐我旁边的一个老先生，做了快三十年神经形态计算，说他刚入行的时候，所有人都觉得这是异想天开，拿经费都难，现在天天有投资人追着问要不要钱，说这话的时候，他手里的茶都凉了，眼睛亮得吓人。
技术这东西真的有意思，冷板凳坐了几十年，其实就是在等一个合适的风口。原来AI不需要这么大算力，大家觉得冯诺依曼够用，就没人愿意投钱搞新架构，现在逼到这份上了，自然就有人往前冲。
以后肯定不会是神经形态芯片取代GPU，更多是分工：数据中心训大模型还是靠GPU，边缘端低功耗的AI任务，就交给神经形态芯片，互相配合。说不定再过五到十年，你戴的智能眼镜，能本地跑全尺寸大模型，不用连云端，延迟低还不泄露隐私，靠的就是神经形态计算的低功耗优势。
不信？咱们走着瞧。
为什么说冯诺依曼架构已经顶不住了？
摩尔定律放缓之后，芯片的性能提升速度越来越慢，但是AI对算力的需求，每三个半月就翻一倍。这差距越拉越大，总不能靠堆GPU堆出未来吧？一块A100要十几万，堆一万块就是十几个亿，还不算电费和散热，别说小公司，就连互联网大厂都觉得肉疼。 说实话，现在算力缺口已经大到离谱。英伟达的GPU抢都抢不到，产能拉满都供不上货，大家都在找新出路。传统冯诺依曼架构存算分离示意图
这时候神经形态计算就被推到台前了。很多人一听“类脑计算”“神经形态”就觉得是炒概念，是十几年前的老调重弹，其实真不是。
神经形态计算到底牛在哪？不是空喊口号
它的核心思路说穿了很简单：模仿人脑的工作方式。 人脑有860亿个神经元，神经元之间通过突触连接，只有当神经元接收的脉冲信号积累到阈值，才会触发下一次脉冲，而且计算和存储都在突触上完成，也就是行业里说的存算一体。整个大脑满负荷工作，功耗才20瓦，差不多就是一个节能灯泡的用电量，就能处理语音、图像、推理各种复杂任务，这放在现在的GPU上，功耗至少翻几千倍。 现在主流的神经形态芯片，基本都是基于脉冲神经网络来做的，和传统深度学习用的人工神经网络完全不是一个路数。它处理信息是异步的，只有事件触发的时候才会工作，不像传统芯片不管有事没事都在时钟驱动下跑，功耗一下就降下来了。 举个实际的例子，英特尔早在2019年就推出了拥有1亿个神经元的Pohoiki Springs芯片，国内清华大学2019年发布的“天机”芯片，就能同时支持脉冲神经网络和传统深度学习，当年还上了《自然》封面。 去年我看到一个新成果，国内团队做的神经形态芯片，做边缘端的图像识别，功耗比传统GPU低了两个数量级，识别准确率只差不到1%，这个提升真的吓人。神经形态计算脉冲神经元工作原理示意图
现在已经有小范围落地的场景了。比如工业上的传感器节点，要一直做AI检测，又不能拉电线，换电池也麻烦，用神经形态芯片，一块电池能用好几年，这不比传统方案香？还有智能穿戴设备、自动驾驶的边缘处理，都能用上。
不过话说回来，现在神经形态计算还没到能大规模商用的地步，问题真不少。
离普及还有多远？现在卡在哪了？
离普及还有多远？现在卡在哪了？
第一个大问题就是生态。现在所有的AI框架，所有的训练推理流程，都是给传统冯诺依曼架构做的，要把现有模型迁移到神经形态芯片上，相当于重新造一遍轮子，成本太高，很多企业根本不愿意碰。
第二个问题是，神经元的精度问题。脉冲信号是离散的，计算精度肯定不如传统的浮点计算，做一些复杂的大模型推理，误差还是控不住，现在还只能做一些相对简单的边缘任务，没法拿去训大模型。
还有就是制造工艺，现在要做高密度的突触阵列，对忆阻器等新型存储器件的良率要求很高，大规模量产的成本还降不下来。
但你要说它没机会？那绝对不对。去年ChatGPT带火了整个人工智能行业，算力缺口直接被拉到空前大，所有人都在找下一个性能增长点，资本疯了一样往这个领域砸钱。2023年国内光是神经形态方向的创业公司，融资总额就超过了20亿人民币，英特尔、IBM、三星这些巨头，每年的研发投入都是十亿美金级别往上走。
我上个月参加一个小范围的行业沙龙，坐我旁边的一个老先生，做了快三十年神经形态计算，说他刚入行的时候，所有人都觉得这是异想天开，拿经费都难，现在天天有投资人追着问要不要钱，说这话的时候，他手里的茶都凉了，眼睛亮得吓人。
技术这东西真的有意思，冷板凳坐了几十年，其实就是在等一个合适的风口。原来AI不需要这么大算力，大家觉得冯诺依曼够用，就没人愿意投钱搞新架构，现在逼到这份上了，自然就有人往前冲。
以后肯定不会是神经形态芯片取代GPU，更多是分工：数据中心训大模型还是靠GPU，边缘端低功耗的AI任务，就交给神经形态芯片，互相配合。说不定再过五到十年，你戴的智能眼镜，能本地跑全尺寸大模型，不用连云端，延迟低还不泄露隐私，靠的就是神经形态计算的低功耗优势。
不信？咱们走着瞧。