神经形态计算:AI换道超车的下一个突破口
ChatGPT爆火之后,所有人都在拼大模型,拼参数,拼显卡产能。你有没有想过,现在这条路,其实快走到头了?
训练一次千亿参数大模型的电费,够一个小县城用半年。跑一次推理的功耗,够你手机用一个月。现在的AI,看起来越来越强,其实也越来越臃肿,快要被自己的重量压垮了。
而解决这个问题的答案,早在几百万年前就被演化出来了——我们自己的大脑。
为什么现有AI架构跑不动了?
我们现在用的所有计算机,从手机到超算,本质还是几十年前的冯·诺依曼架构。这个架构最核心的特点就是存储和计算分开,你要算个东西,得先把数据从内存搬到计算单元,算完了再搬回去。
就好比你做个饭,每放一勺料都要跑一公里去仓库拿,来回折腾,大部分时间和油都耗在路上了。
人类大脑完全不是这么玩的。一千亿个神经元,通过百万亿个突触连在一起,计算和存储就放在突触这个地方,信号过来直接处理,根本不用来回搬。整个大脑工作一天,功耗才20瓦,也就点亮一个节能灯泡。
人类大脑神经元连接结构示意图
神经形态计算说白了就是照着人脑的样子做计算。抄演化的作业,总没错吧?
说实话,这个概念其实提了几十年了,之前一直不温不火,为啥最近突然火了?还不是大模型把功耗墙撞得咚咚响,大家才想起还有这么条路。
神经形态计算现在走到哪一步了?
很多人觉得神经形态计算还停留在论文里,其实早就有能用的成品了。
最出名的应该就是清华团队研发的第二代天机芯,这个芯片本身就是按照神经形态做的,上面集成了十几万个人工神经元,能同时跑不同种类的神经网络。我之前看到过一组测试数据,它做图像分类任务,功耗只有常规GPU的千分之一不到。
千分之一啊。你敢信?
第二代天机神经形态芯片实物图
英特尔也推出了好几代神经形态芯片,叫Pohoiki系列,现在已经给科研机构用了,用来做机器人的低功耗实时控制,效果比传统芯片好太多。国内还有好几家创业公司,去年拿了好几亿融资,做面向端侧的神经形态AI芯片,已经给安防摄像头、物联网节点供货了。
不过话说回来,现在的神经形态计算还不够完美。大部分落地场景都是低功耗的小模型推理,真要跑千亿参数的大模型,现在的芯片规模还不够。还有生态问题,现在所有AI软件都是给GPU写的,新架构想要适配,还要花好几年功夫磨。
但是架不住它天生优势大啊。
现在端侧AI的需求涨得比什么都快,苹果、高通都在拼了命往手机芯片里堆AI算力,就是想让大模型能跑在本地,不用什么都传云端——既保护隐私,响应又快,还不用耗流量。神经形态计算天生就是干这个的,对吧?
现在已经有智能穿戴设备用上了神经形态芯片做心率异常检测,准确率比传统算法高十个百分点,功耗直接砍了一半,电池续航从一周变两周,用户体验提升不要太明显。
神经形态计算真能改变AI的未来吗?
神经形态计算真能改变AI的未来吗?
我之前跟一个做AI芯片的朋友聊天,他说现在行业里都清楚,堆参数堆GPU这条路走不远了,再往下走,成本高到连巨头都扛不住,下一个大的技术拐点肯定在新架构。
神经形态就是最有希望的那个方向,没有之一。
最近一年的突破真的很多,麻省理工做了相变材料人工突触,能模拟人脑突触的可塑性,硬件自己就能在线学习,不用反复擦写数据,寿命长了好多功耗还更低。国内团队做的类脑突触,已经能做到单芯片集成上亿个突触,规模比之前大了一个数量级。
你可以想象一下,十年之后,如果我们能把千亿参数的大模型,做到一块巴掌大的神经形态芯片里,整个芯片跑起来功耗才几十瓦——那是什么场景?
你口袋里的手机,就能跑GPT-4级别的AI,不用连网,不用担心你的聊天记录被上传,响应速度比现在云端快好几倍。自动驾驶不用在车上装个半人高的算力箱,一块芯片就搞定所有感知决策,功耗降90%,成本砍一半还多。偏远地区的物联网监测节点,一块电池用十年,不用人去换,就能一直跑AI监测环境。
当然,现在还有一堆绕不开的问题,成本降不下来,生态没建起来,大模型适配的算法还没搞明白。但是哪项新技术刚出来的时候不是这样?第一台晶体管计算机刚做出来的时候,一堆人说这东西也就军方能用,谁能想到现在人人兜里都揣着一台?
科技的发展从来不是一条道走到黑的。当大家都挤在GPU拼参数的独木桥上的时候,不妨抬头看看,模仿人脑的神经形态计算,早就长出了一条新的路。就看谁先跑通了。