神经形态计算：ChatGPT之后的下一代算力核心
说实话，第一次看到神经形态计算的功耗测试数据时，我鸡皮疙瘩都起来了。
现在满世界都在抢GPU，堆算力，烧钱烧电眼睛都不眨，可没人想过这条路还能走多久。摩尔定律停了快十年，冯诺依曼架构的墙已经撞得头破血流了，总得有新方向吧？
冯诺依曼与神经形态架构对比示意图
这个架构天生就低功耗，天生就适合并行处理。你想想，人脑有860亿神经元，每天处理图像、语音、运动控制一堆事，总共才耗20瓦电。现在哪个GPU能做到？
天机二代神经形态芯片实物照片
我前阵子看一个团队的测试，用天机芯跑目标检测，准确率和GPU差不多，功耗只有GPU的千分之一。就这个数据，你说吓人不吓人。
不过话说回来，现在的坑也真不少。
最大的问题就是生态。我们写了几十年程序，都是基于冯诺依曼那套逻辑，现在神经形态用的是脉冲编码，大部分开发者连入门都摸不着头脑，能拿来用的开发工具少得可怜。
其次就是规模，现在神经形态芯片的神经元规模还不够大，跑大模型训练还不行，只能做推理，就算做推理，偶尔准确率还掉个一两个点，就这一点，很多商业场景就不肯买单。
还有技术路线不统一，做数字的，做模拟的，做忆阻器的，做相变存储的，各家走各家的路，谁也说服不了谁，距离大规模量产还有一段距离。
最先落地的不是云端，是你看不见的边缘场景
很多人一提起AI，就非要跟英伟达抢训练大模型的生意，其实神经形态计算根本没必要抢这个饭碗。
它的优势本来就在低功耗边缘AI，这是GPU根本比不了的。
比如工业物联网，野外成千上万的传感器，换一次电池要爬几十米的高压塔，成本高到吓人。用神经形态芯片做本地AI检测，一块电池用五年十年，直接把运维成本砍到零，你说厂商愿不愿意用？
再比如可穿戴医疗设备，现在的智能手表测心电血糖，都要把数据传到手机再算，不仅延迟高，还容易泄露隐私。要是用神经形态芯片本地做实时异常检测，发现心梗前兆直接报警，延迟不到一毫秒，数据根本不用出设备，这不就是所有人都想要的安全AI吗？
还有足式机器人，现在机器人走路晃悠，很大原因就是传感器数据要传给云端处理，再发指令回来，差那几十毫秒，平衡就没了。用神经形态芯片本地处理，实时调整关节姿态，分分钟就能走得跟正常人一样稳。
哦对了，现在脑科学研究也在用神经形态芯片，直接造一个人工神经网络来模拟人脑活动，比在GPU上模拟快了几百倍，还省电，这都是已经落地的应用了。
现在资本已经闻着味来了，去年一年，全球神经形态创业公司的融资额翻了三倍，国内也有不少顶尖实验室的团队出来创业了。当然，现在进去布局风险很大，技术没成熟，生态没建起来，说不定哪路线错了就没了。
但它的潜力摆在这里，现在AI发展最大的瓶颈就是功耗，冯诺依曼已经摸到头了，这条路走下去，迟早会改变整个算力行业。
说不定再过十年，你戴的智能眼镜，家里的智能摄像头，身上的医疗设备，跑AI用的就是神经形态芯片。那时候你再回头看，就会发现，原来早在今天，这个改变一切的方向就已经铺好了路。
别被名字忽悠，它到底解决了什么老问题？
我们现在用的不管是CPU还是GPU，本质都是冯诺依曼架构——存储单元和计算单元是分开的。算一个任务，要不停把数据从内存搬到计算单元，搬完了再存回去。 这个过程有多浪费电？你跑ChatGPT问一个问题，背后耗的电，比人脑算一天还多。离谱不离谱。 神经形态计算走的完全是另一条路。它模仿人脑的神经元和突触结构，把存储和计算做在了同一个单元里。就像人脑的突触，本身既存了连接权重，又能完成信号处理，不用来回折腾数据。冯诺依曼与神经形态架构对比示意图
这个架构天生就低功耗，天生就适合并行处理。你想想，人脑有860亿神经元，每天处理图像、语音、运动控制一堆事，总共才耗20瓦电。现在哪个GPU能做到？
早不是PPT概念，已经有能用的芯片了
很多人觉得神经形态计算还停留在实验室，是大佬们画的饼。其实真不是。 英特尔早在2019年就拿出了Pohoiki Springs，集成了1亿个神经元，能做各种AI推理任务。国内中科院计算所的天机芯二代，更是已经做到了每秒1.2亿个脉冲突触的运算，功耗只有毫瓦级。天机二代神经形态芯片实物照片
我前阵子看一个团队的测试，用天机芯跑目标检测，准确率和GPU差不多，功耗只有GPU的千分之一。就这个数据，你说吓人不吓人。
不过话说回来，现在的坑也真不少。
最大的问题就是生态。我们写了几十年程序，都是基于冯诺依曼那套逻辑，现在神经形态用的是脉冲编码，大部分开发者连入门都摸不着头脑，能拿来用的开发工具少得可怜。
其次就是规模，现在神经形态芯片的神经元规模还不够大，跑大模型训练还不行，只能做推理，就算做推理，偶尔准确率还掉个一两个点，就这一点，很多商业场景就不肯买单。
还有技术路线不统一，做数字的，做模拟的，做忆阻器的，做相变存储的，各家走各家的路，谁也说服不了谁，距离大规模量产还有一段距离。
最先落地的不是云端，是你看不见的边缘场景
最先落地的不是云端，是你看不见的边缘场景
很多人一提起AI，就非要跟英伟达抢训练大模型的生意，其实神经形态计算根本没必要抢这个饭碗。
它的优势本来就在低功耗边缘AI，这是GPU根本比不了的。
比如工业物联网，野外成千上万的传感器，换一次电池要爬几十米的高压塔，成本高到吓人。用神经形态芯片做本地AI检测，一块电池用五年十年，直接把运维成本砍到零，你说厂商愿不愿意用？
再比如可穿戴医疗设备，现在的智能手表测心电血糖，都要把数据传到手机再算，不仅延迟高，还容易泄露隐私。要是用神经形态芯片本地做实时异常检测，发现心梗前兆直接报警，延迟不到一毫秒，数据根本不用出设备，这不就是所有人都想要的安全AI吗？
还有足式机器人，现在机器人走路晃悠，很大原因就是传感器数据要传给云端处理，再发指令回来，差那几十毫秒，平衡就没了。用神经形态芯片本地处理，实时调整关节姿态，分分钟就能走得跟正常人一样稳。
哦对了，现在脑科学研究也在用神经形态芯片，直接造一个人工神经网络来模拟人脑活动，比在GPU上模拟快了几百倍，还省电，这都是已经落地的应用了。
现在资本已经闻着味来了，去年一年，全球神经形态创业公司的融资额翻了三倍，国内也有不少顶尖实验室的团队出来创业了。当然，现在进去布局风险很大，技术没成熟，生态没建起来，说不定哪路线错了就没了。
但它的潜力摆在这里，现在AI发展最大的瓶颈就是功耗，冯诺依曼已经摸到头了，这条路走下去，迟早会改变整个算力行业。
说不定再过十年，你戴的智能眼镜，家里的智能摄像头，身上的医疗设备，跑AI用的就是神经形态芯片。那时候你再回头看，就会发现，原来早在今天，这个改变一切的方向就已经铺好了路。