当算力堵在内存门口：近存计算如何破局冯诺依曼瓶颈

打开任何一张现代AI芯片的晶圆照片，占面积最大的永远不是计算核心，是存储颗粒。 算力卡在存储门口，已经不是什么新闻了。

那堵堵了半个多世纪的内存墙

冯诺依曼架构从诞生那天起，就是计算和存储分离的设计。计算单元做运算，存储单元存数据，分工清晰。早年计算能力不够，内存带宽还能跟上需求，没人觉得这是问题。 摩尔定律走了半个世纪，计算核心的性能每十八个月翻一番，内存带宽的增长速度呢？不到十分之一。差距越拉越大，墙就出来了。 现在训练千亿参数大模型，每一次前向反向传播，都要从远端内存把参数、激活值搬到计算核心，算完再把结果送回去。这个过程消耗的功耗，比计算本身高出一个数量级。延迟也卡在这，你算得再快，没数据输入也是白等。 很多人试过各种办法，堆更大的cache，换更快的接口，堆更多的HBM颗粒。这些办法有用，但成本涨得比性能还快。一片高端HBM的成本已经占到整个芯片物料成本的六成以上，再堆下去，卖芯片都赚不到钱。 传统冯诺依曼架构内存墙原理示意图 墙就在那，所有人都想拆，只是拆法不一样。有人直接推倒重构搞存算一体，有人选择挪一挪位置，把计算往存储这边靠一靠。后者就是我们说的这条路。

不是所有靠近存储的计算都是一回事

很多人容易把它和存算一体混为一谈，说白了，这是两种完全不同的技术路线。 存算一体是直接让存储单元本身具备计算能力，用物理特性做运算，比如模拟存算靠欧姆定律，数字存算直接把逻辑做进存储单元。本质上是把计算和存储融合了，是重构架构。 而它走的路，本质上还是计算和存储分离，只是把计算单元挪得离存储更近，缩短数据传输的距离，降低传输过程的功耗和延迟。它是对现有架构的渐进式改良，不需要推翻现有的软硬件生态，这也是它最近两年能快速落地的核心原因。 实现路径目前主流分两种，一种是基于3D堆叠，把计算逻辑层和存储层直接叠在一起，用硅通孔技术做高密度互连，传输距离从几十毫米缩短到几微米，带宽能提升好几个量级，功耗直接降一个数量级。另一种是在同一块芯片上，把计算单元紧挨着高带宽存储阵列摆放，优化互连路径，适合不太做3D堆叠的成熟工艺，成本更低。 当然，坑也不少。不是说你把两个东西放近就完事了。不同密度的存储颗粒访问延迟不一样，HBM和DDR的调度逻辑完全不同，怎么统一编址，怎么让操作系统识别，这本身就是个难题。还有热问题，计算单元和存储叠在一起，散热比传统架构难太多，设计不好降下来的功耗都被散热吃掉了。还有软件生态，现有的AI框架、编程模型都是给传统架构做的，要重新适配，改一寸动全身，很多公司扛不住这个开发成本。 近存计算与传统芯片互连路径对比图 说实话，现在很多宣传都把这个概念吹得太神了，好像一用就能解决所有问题。其实它的落地条件非常苛刻，很多团队做出来的样片，跑分好看，实际用起来还不如传统架构。

边界在哪，未来往哪走

边界在哪，未来往哪走 任何技术都有它的适用范围，没有万能药。 这条路最适合的，就是数据密集型计算场景。比如云端大模型推理，每次推理要读大量的参数，数据搬运占了绝大多数开销，把计算放近存储，既降得下延迟，也压得住功耗，实际量产的芯片已经能做到比传统架构低四成功耗，降三成延迟，性价比提升非常明显。再比如短视频平台的推荐系统，每天要检索千亿级别的特征，大部分时间都在搬特征数据，用它做特征检索引擎，吞吐量能翻一倍还多。还有自动驾驶的实时点云处理，对延迟要求极高，也适合。 那哪些场景不适合？计算密集，数据量又小的场景，完全没必要碰。比如高精度科学计算，核心是少数大矩阵的浮点运算，数据早就放进片上cache了，本来就没多少数据搬运，你硬加近存设计，只会增加布线成本，提升芯片面积，反而得不偿失。还有对成本极度敏感的低端物联网芯片，本来就用不了多少算力，加设计带来的成本上涨，远超过性能收益，没人会用。 现在行业里最大的风险，就是资本热炒下的泛化应用，什么产品都要蹭个概念，把过渡方案吹成下一代计算架构。其实说白了，它就是现在摩尔定律放缓、内存墙矛盾越来越突出的情况下，一个非常务实的中间方案。它不需要你推翻现有生态，就能拿到明显的性能收益，这是它最大的优势。 不过话说回来，它也解决不了根本矛盾。就算你把计算贴在存储脸上，本质还是要搬数据，只是搬得近了点。未来如果存算一体的技术成熟了，它可能会慢慢退出高端市场，但那也是十几年后的事了。至少未来十年，它会是所有数据密集型芯片的标准设计思路，毕竟现在没有比它成本更低、落地更快的破局方案了。 我见过太多团队拿着概念炒融资，最后做出来的产品连基本的可靠性都过不了。好的技术从来不是吹出来的，是一步一步试出来的。这一次，它踩对了当下的痛点，剩下的就看从业者能不能沉下心解决那些细碎的工程问题了。