神经形态计算：被大模型热潮掩盖的下一代AI核心技术
上个月逛国内半导体行业展，挤在人群里蹭了一场小范围的技术分享，主讲的是清华出来创业的一个小伙子，讲着讲着就聊到神经形态计算，掏出一块指甲盖大的芯片说，这块能跑10万个神经元，功耗不到一毫瓦。
我当时手里拿的矿泉水都差点洒了。
人脑神经元突触结构电镜图
说实话这个思路真不是什么新点子，上个世纪八十年代就有人提了。那时候为什么做不出来？你想啊，要做几百万个人工突触，放在一块芯片里，那时候的工艺根本做不到，做出来也大得像冰箱，功耗比传统芯片还高。这两年不一样了，忆阻器、相变存储这些新型存储器件成熟了，一个忆阻器就是一个人工突触，体积小，功耗低，一块指甲盖大的芯片就能塞几百万个，这不就成了吗？
第二代天机芯神经形态计算芯片实物图
英特尔早在2019年就出了商用的神经形态芯片Pohoiki，现在已经给很多科研机构和企业做测试用了。国内中科院、复旦大学也都有成熟的研究成果，不少已经做成了产品卖到工业界了。
现在用得最多的就是低功耗边缘AI场景。比如放在野外的环境传感器，要24小时跑AI识别物种，又不能接电网，一块电池要用五年，传统芯片根本撑不住，神经形态芯片就刚好。还有低功耗的可穿戴设备，比如监测心电的手环，要实时AI预警心律失常，一直开着计算续航撑不过一天，换神经形态芯片能撑一个月。
还有脑机接口，这个更匹配，神经形态计算本身就仿神经结构，处理大脑的电信号，延迟比传统芯片低一个数量级，功耗还小，植入式脑机接口本来就对功耗要求苛刻，简直是天生一对。我之前看过斯坦福的一篇论文，用神经形态芯片做癫痫发作预测，提前十秒就能预警，延迟不到1毫秒，整体功耗才几十微瓦。这换传统架构，想都不敢想。
离大规模普及还有多远？卡脖子的问题在哪
不过话说回来，现在要取代传统芯片，还早得很。问题一大堆。第一个就是软件生态。现在做AI开发的，所有人都用PyTorch、TensorFlow，所有的模型都是给传统架构写的，没人给神经形态芯片做通用的开发框架，你就算芯片做得再好，人家开发者不会用，也没法落地。
第二个就是器件本身的稳定性。现在常用的忆阻器，每次开关电阻都会有点偏差，用的时间长了还会漂移，相当于人脑的突触乱长，时间久了计算精度就掉了，这个问题到现在还没有特别完美的解决办法。第三个就是成本，现在新型器件的良率还不高，一块芯片做出来成本比传统GPU贵好多，除了一些特殊场景，没人愿意花这个钱。
但是啊，转机已经来了。现在大模型越做越大，功耗已经涨得离谱了。有数据说，现在训练一次千亿参数大模型，要消耗掉差不多500兆瓦时的电，相当于一个普通家庭一百多年的用电量。奥特曼去年都公开说了，再这么发展下去，再过十年，全球电力都不够给大模型烧的。
资本现在也反应过来了，开始往新架构砸钱。去年OpenAI就投了一家做神经形态计算的初创公司，就是奔着解决大模型功耗去的。国内也有好多天使VC开始看这个赛道了，不少之前在实验室做研究的团队都出来创业了。
我个人是真的看好这个方向。现在的大模型，本质还是用老架构堆参数，就好比你用一千台织布机拼出一个机器人，能干活，但笨得要死，还费钱。神经形态计算是从根上换了路，照着人脑的结构做计算，这才是通向低功耗通用AI的正路啊。
说不定再过五年，你手里的手机、耳机里面的AI芯片，就是神经形态的，续航直接翻两三倍，你用的时候都感觉不到变化，但背后已经换了一代技术。
就说这么多，静等开花吧。
别被高端名字唬住，神经形态计算本质就是抄人脑
我们现在用的所有芯片，从手机到超算，全都是冯·诺依曼架构，这个架构用了快一百年了，最大的问题就是存储和计算分家。你要算点东西，就得把数据从内存搬到计算单元，算完再搬回去。来回折腾，浪费的能量比计算本身还多。这就是我们常说的冯·诺依曼瓶颈。现在大模型的功耗问题，根上就在这。 人脑呢？人脑里的神经元，靠突触连接，计算和记忆就发生在突触本身。不需要来回挪数据。你看到一只猫，认出来这是猫，整个过程功耗才十几瓦，比你手机亮个屏功耗还低。神不神奇？神经形态计算就是照着人脑的这个结构，搭出全新的硬件。人脑神经元突触结构电镜图
说实话这个思路真不是什么新点子，上个世纪八十年代就有人提了。那时候为什么做不出来？你想啊，要做几百万个人工突触，放在一块芯片里，那时候的工艺根本做不到，做出来也大得像冰箱，功耗比传统芯片还高。这两年不一样了，忆阻器、相变存储这些新型存储器件成熟了，一个忆阻器就是一个人工突触，体积小，功耗低，一块指甲盖大的芯片就能塞几百万个，这不就成了吗？
早就不是实验室玩具，这些场景已经落地用了
很多人觉得神经形态计算还远得很，其实不少产品已经偷偷用了。国内最有名的就是清华大学研发的天机芯，第二代天机芯就能同时支持多种神经网络模型，当年做的自动驾驶自行车，整个系统跑下来功耗不到1瓦，当时放出来的时候惊掉了多少学术圈人的下巴。第二代天机芯神经形态计算芯片实物图
英特尔早在2019年就出了商用的神经形态芯片Pohoiki，现在已经给很多科研机构和企业做测试用了。国内中科院、复旦大学也都有成熟的研究成果，不少已经做成了产品卖到工业界了。
现在用得最多的就是低功耗边缘AI场景。比如放在野外的环境传感器，要24小时跑AI识别物种，又不能接电网，一块电池要用五年，传统芯片根本撑不住，神经形态芯片就刚好。还有低功耗的可穿戴设备，比如监测心电的手环，要实时AI预警心律失常，一直开着计算续航撑不过一天，换神经形态芯片能撑一个月。
还有脑机接口，这个更匹配，神经形态计算本身就仿神经结构，处理大脑的电信号，延迟比传统芯片低一个数量级，功耗还小，植入式脑机接口本来就对功耗要求苛刻，简直是天生一对。我之前看过斯坦福的一篇论文，用神经形态芯片做癫痫发作预测，提前十秒就能预警，延迟不到1毫秒，整体功耗才几十微瓦。这换传统架构，想都不敢想。
离大规模普及还有多远？卡脖子的问题在哪
离大规模普及还有多远？卡脖子的问题在哪
不过话说回来，现在要取代传统芯片，还早得很。问题一大堆。第一个就是软件生态。现在做AI开发的，所有人都用PyTorch、TensorFlow，所有的模型都是给传统架构写的，没人给神经形态芯片做通用的开发框架，你就算芯片做得再好，人家开发者不会用，也没法落地。
第二个就是器件本身的稳定性。现在常用的忆阻器，每次开关电阻都会有点偏差，用的时间长了还会漂移，相当于人脑的突触乱长，时间久了计算精度就掉了，这个问题到现在还没有特别完美的解决办法。第三个就是成本，现在新型器件的良率还不高，一块芯片做出来成本比传统GPU贵好多，除了一些特殊场景，没人愿意花这个钱。
但是啊，转机已经来了。现在大模型越做越大，功耗已经涨得离谱了。有数据说，现在训练一次千亿参数大模型，要消耗掉差不多500兆瓦时的电，相当于一个普通家庭一百多年的用电量。奥特曼去年都公开说了，再这么发展下去，再过十年，全球电力都不够给大模型烧的。
资本现在也反应过来了，开始往新架构砸钱。去年OpenAI就投了一家做神经形态计算的初创公司，就是奔着解决大模型功耗去的。国内也有好多天使VC开始看这个赛道了，不少之前在实验室做研究的团队都出来创业了。
我个人是真的看好这个方向。现在的大模型，本质还是用老架构堆参数，就好比你用一千台织布机拼出一个机器人，能干活，但笨得要死，还费钱。神经形态计算是从根上换了路，照着人脑的结构做计算，这才是通向低功耗通用AI的正路啊。
说不定再过五年，你手里的手机、耳机里面的AI芯片，就是神经形态的，续航直接翻两三倍，你用的时候都感觉不到变化，但背后已经换了一代技术。
就说这么多，静等开花吧。