光学计算技术:打破电子芯片算力瓶颈的新出口
你最近刷到AI大模型挤爆数据中心的新闻没?是不是翻遍所有产业报道,一半在吹3nm、2nm工艺挤牙膏,一半在吹各种存算一体新概念,没人提闷不吭声已经搞出商用产品的光学计算技术?
光学计算芯片核心光路示意图
去年美国Lightmatter推出的商用光学AI推理芯片,实测数据出来的时候,行业内好多人都惊了。相同推理任务下,功耗只有英伟达A100的五十分之一,延迟还低了五分之一。这差距,太香了。
商用光学AI计算加速卡实物图
不过话说回来,现在落地最快的场景,确实还是AI推理。大模型训练对精度要求太高,光学计算现在的误差还控制不住,但是推理不需要那么高的精度,刚好对口。现在一个百万亿参数的大模型,用光学计算加速,推理速度翻好几倍,电费省一大半,哪个数据中心不心动?
大规模商用普及,还有三道绕不开的坎
我可不是来吹光学计算能秒天秒地的。它现在的问题,明明白白摆在那。
第一道坎就是集成度。哪怕现在最先进的集成光学工艺,一个光学调制器的尺寸,还是比七纳米的晶体管大好多。你要做跟H100一样规模的计算单元,现在做不到那么小。
第二道坎就是精度和抗干扰。光信号很容易受到温度、振动的影响,稍微偏一点,计算结果就错了。现在只能做精度要求不高的推理,要做高精度的科学计算或者大模型训练,还得再磨好几年的误差控制技术。
第三道坎就是产业链。整个半导体行业玩了几十年电子芯片,从设计到制造到封测,全是给电子芯片配套的。光学计算要搞大规模量产,现在连成熟的供应链都凑不齐,更别说降本走量了。
对吧?哪有那么容易就直接颠覆整个行业。
现在业内主流的共识,其实也不是光学计算替代电子芯片,而是做混合计算架构。复杂的控制、存储交给电子芯片,大规模并行的矩阵计算交给光学芯片,各干各擅长的事。
我上个月跟一个做半导体投资的朋友吃饭,他说今年投半导体,十个项目里三个沾光学计算,以前根本没人理。现在大家都看明白了,摩尔定律的牙膏挤不动了,要解决AI的算力饥荒,总得找新路子。
光学计算技术不是什么空中楼阁,是已经踩实了第一步的新赛道。说不定十年后你手机里的AI生成功能,背后就是光学计算芯片在跑。谁能说得准呢?当年第一只晶体管出来的时候,也没人想到会有今天人手一部的智能手机啊。
为什么是光?电子走不通的坎,光天生就能跨
现在电子芯片的算力瓶颈,本质上就是两个问题。一个是冯诺依曼架构天生的内存墙,数据来回跑,跑一次耗一次电,速度还上不去。另一个就是摩尔定律已经摸到物理极限了,你再怎么缩晶体管尺寸,漏电流和发热都扛不住。 光不一样啊。 光天生就是并行的,一束光里不同波长就能同时算不同数据,而且光速是宇宙最快速度,传输过程中几乎不耗电。 说白了,电子计算是电子绕来绕去跑,累得半死还发热。光学计算是让数据直接沿着光路跑,一步到位。
光学计算芯片核心光路示意图
去年美国Lightmatter推出的商用光学AI推理芯片,实测数据出来的时候,行业内好多人都惊了。相同推理任务下,功耗只有英伟达A100的五十分之一,延迟还低了五分之一。这差距,太香了。
现在的光学计算技术,真不是实验室里的画饼
说实话,早十年提起光学计算,我也觉得是忽悠。那时候的原型机,占满一整个实验室,只能做特定的矩阵运算,连个普通小程序都跑不起来,有啥用? 现在完全不一样了。集成光学工艺上来了,一片几厘米的晶圆上就能刻出上万个光调制器、光分束器,跟十年前比完全是两个东西。 国内的曦智科技,前年就已经给客户送样了800G的光学计算加速卡,主打数据中心AI推理场景。清华大学去年还发布了通用光学计算原型机,已经能跑基础的深度学习模型了。
商用光学AI计算加速卡实物图
不过话说回来,现在落地最快的场景,确实还是AI推理。大模型训练对精度要求太高,光学计算现在的误差还控制不住,但是推理不需要那么高的精度,刚好对口。现在一个百万亿参数的大模型,用光学计算加速,推理速度翻好几倍,电费省一大半,哪个数据中心不心动?
大规模商用普及,还有三道绕不开的坎
大规模商用普及,还有三道绕不开的坎
我可不是来吹光学计算能秒天秒地的。它现在的问题,明明白白摆在那。
第一道坎就是集成度。哪怕现在最先进的集成光学工艺,一个光学调制器的尺寸,还是比七纳米的晶体管大好多。你要做跟H100一样规模的计算单元,现在做不到那么小。
第二道坎就是精度和抗干扰。光信号很容易受到温度、振动的影响,稍微偏一点,计算结果就错了。现在只能做精度要求不高的推理,要做高精度的科学计算或者大模型训练,还得再磨好几年的误差控制技术。
第三道坎就是产业链。整个半导体行业玩了几十年电子芯片,从设计到制造到封测,全是给电子芯片配套的。光学计算要搞大规模量产,现在连成熟的供应链都凑不齐,更别说降本走量了。
对吧?哪有那么容易就直接颠覆整个行业。
现在业内主流的共识,其实也不是光学计算替代电子芯片,而是做混合计算架构。复杂的控制、存储交给电子芯片,大规模并行的矩阵计算交给光学芯片,各干各擅长的事。
我上个月跟一个做半导体投资的朋友吃饭,他说今年投半导体,十个项目里三个沾光学计算,以前根本没人理。现在大家都看明白了,摩尔定律的牙膏挤不动了,要解决AI的算力饥荒,总得找新路子。
光学计算技术不是什么空中楼阁,是已经踩实了第一步的新赛道。说不定十年后你手机里的AI生成功能,背后就是光学计算芯片在跑。谁能说得准呢?当年第一只晶体管出来的时候,也没人想到会有今天人手一部的智能手机啊。