神经形态计算：颠覆冯诺依曼架构的下一代AI底层技术

你有没有算过，你手机调用一次大模型聊天，背后云端服务器要耗多少电？ 说出来吓你一跳。单是ChatGPT一年的电费，就顶一个中小城市全年的居民用电开销。 现在大模型越做越大，参数堆到万亿，堆卡堆电的路子，快走到头了。

冯诺依曼的墙，堵得AI喘不过气

我们现在用的所有电脑手机，核心都是几十年前定下来的冯诺依曼架构——处理器归处理器，内存归内存，要算什么数据，得先从内存搬到处理器，算完再搬回去。 这个模式用了七十多年，没出过什么大问题。直到AI火了。 现在AI做推理训练，本质就是不停挪数据算数据，挪数据的过程，慢不说，还耗了80%以上的功耗。就相当于你做饭，食材都放在仓库，每次炒一勺就要去仓库跑一趟，来回跑的功夫，油都烧完了，菜还没熟。 这个就是业内说的「内存墙」，也是冯诺依曼架构绕不开的死结。 传统冯诺依曼架构内存墙瓶颈示意图 堆更多内存，堆更宽的总线，都是治标不治本。越堆越贵，越堆越耗电。马斯克去年收购Twitter之后砍服务器砍到头疼，换做是搞大模型的公司，服务器机房的电费账单，每个月看了都要心梗。 说实话，现在AI发展，硬件已经拖了软件的后腿。要往下走，得换路子。

神经形态计算，抄了人脑的作业

既然传统架构不行，那我们干脆照着人脑的样子造芯片，行不行？ 这就是神经形态计算的核心思路。 别听名字玄乎，本质就是模仿人脑里神经元和突触的连接方式来做计算。和传统架构最大的区别是，神经形态计算里，计算和存储是一体的，突触就是存储，神经元激活就是计算。不用来回挪数据。 而且它是事件驱动的——只有接收到刺激的神经元才会通电工作，其他时候都是休眠的。你想想人脑，你坐这里刷手机，只有负责看屏幕处理文字的那部分神经元在工作，其他大部分都在摸鱼，所以整体功耗低得可怕。你认一张照片，整个大脑才耗十几瓦，换成GPU，要耗掉上百瓦，差了快一个数量级。 神经形态芯片神经元突触连接示意图 我第一次看到清华天机芯的演示数据的时候，真的倒吸一口凉气。第二代天机芯做无人驾驶实时目标检测，整个芯片的功耗才不到300毫瓦——比你手机开蓝牙的功耗还低。这放在传统芯片上，想都不敢想。 现在不光国内，国外玩家也跑的很快。Intel早几年就出了Loihi神经形态芯片，去年又更了新一代，集成了上百万个神经元，还有初创公司拿了好几亿融资做低功耗端侧AI芯片。 真的不是实验室里的玄学项目了。

落地还有多远，哪些坑要填

落地还有多远，哪些坑要填 不过话说回来，现在说要取代冯诺依曼架构，还太早。 现在神经形态计算，最多的落地场景还是在低功耗边缘端。比如always-on的语音唤醒，比如工业物联网里的环境传感器，比如可穿戴设备里的生命体征检测。这些场景不需要太高的算力，但是对功耗要求变态，电池要撑个三五年不用换，神经形态芯片刚好完美适配。 那大模型呢？别着急，现在大模型往端侧走是板上钉钉的事。苹果M系列芯片都专门砍出来一块神经引擎，就是为了本地跑AI，以后手机要本地跑7B甚至13B的大模型，功耗压不下去，传统芯片顶不住，神经形态就是最优解之一。 现在最大的坑其实不是芯片设计，是生态。 这么多年大家写代码都是照着冯诺依曼架构写的，神经形态计算的编程逻辑完全不一样，你得重新把神经网络映射到神经元连接上，现在没有成熟的框架，大部分开发者都不会玩。就相当于你给一群只会开燃油车的司机一辆电动车，车造好了，没人会开，也没地方充电，自然推不开。 还有，现在训练大模型，还是得靠GPU集群，神经形态芯片适合推理，不适合训练，大规模训练的性能还打不过传统芯片，这个现状短期内改不了。 但是你架不住需求催着走啊。现在大家都在喊端侧AI，都在喊降本增效，那么低功耗摆在那里，就是最大的杀招。 说不定再过个五到十年，你手里的新手机，就会印上「内置神经形态AI加速芯片」的标签，本地跑大模型不耗电，不用传云端，隐私也有了，速度也快了，这不就是我们想要的未来吗？ 太远的事咱们不吹，先把眼前的低功耗端侧AI搞定，就已经赢麻了。