光学计算技术:说出来你可能不信,光跑着跑着就算完了?
9月23号,我约了南京读书时睡上铺的兄弟吃饭,他说饭改实验室蹭茶,带我见个新东西,我没多想就去了。
进了门我就傻了。
半人高的金属机箱摆在实验台中央,七八根彩色光纤缠得像我家猫挠过的耳机线,指示灯闪得忽明忽暗。他拍着箱子说,这就是我们团队蹲了两年攒出来的光学计算原型,昨天刚跑完第一轮测试。
我凑上去看,除了线乱点,好像也没什么特别。可听完他说的数据,我半天没合上嘴。跑同一个大模型的推理任务,这个巴掌大的核心计算单元,功耗只有我平时用的GPU的不到十分之一。
硅基电子芯片与集成光学计算芯片结构对比图
很多人觉得光学计算是这两年才冒出来的新概念,其实不对。早在上个世纪,就有人在研究了,那时候工艺跟不上,要把纳米级的光路刻在芯片上,成本高到离谱,根本没法落地。
这两年风口突然就来了,还得靠AI大模型带的。大模型最核心的运算是什么?是大矩阵乘法。说白了,就是一堆数字相乘再相加。电子计算要一个数一个数按顺序算,排队等进度。光学计算呢?直接把矩阵里的数值编码成光的振幅和相位,光穿过做好的光路芯片,结果一次出来,就是光传播那几纳秒的时间。
想想都爽。
数据中心集成光学计算AI加速卡安装示意图
说实话,我之前也被网上的软文带歪了,以为马上就要计算技术革命,电子芯片要被扔进历史垃圾堆了。那次在实验室蹲了一下午才搞明白,现在能落地的场景,全都是互补,不是颠覆。
比如现在已经在测的,大模型云端推理,用了光学加速卡之后,同一个算力机房,能多跑一倍的任务,电费省一半,这对于现在动不动就烧几个亿电费的大厂来说,吸引力拉满。还有车载端的实时图像识别,摄像头进来的本来就是光信号,直接进光学计算单元做识别,不用转成电信号再折腾一遍,速度快,功耗还低,对于自动驾驶来说太香了。
现在的坑,比你能想到的多
不过话说回来,这条路现在还没铺平,坑多着呢。
第一个坑就是光损耗。光在光路里走,每走一毫米都会有损耗,芯片做大一点,光路长一点,最后出来的光信号弱得不行,误差就大了,现在只能做小规模的矩阵运算,太大了就hold不住,还要不停做放大校准,麻烦得很。
第二个坑就是精度。现在的光学计算,做低精度的AI推理完全没问题,大多数场景够用了。可你要让它做高精度的科学计算,比如天气预报模拟,比如航天轨道计算,那个精度要求,现在的光学计算根本达不到,误差太大,根本用不了。
还有很多小问题,比如光路的稳定性,温度变一点,折射率变了,结果就错了;还有良率,做十片光学芯片,可能只有两三片能用,成本还是降不下来。
对吧?现在很多资本吹得太神,什么“比电子计算机快一千倍”,那都是拿特定任务在理想条件下测出来的,你让它跑个操作系统,开个网页,它连你手表里的芯片都打不过。别被这种话术割了韭菜。
那天从实验室出来,已经快傍晚了,我们沿着玄武湖走,梧桐叶落了一地,风刮在脸上挺舒服。他说,其实现在做这个,就像七八十年前人们刚做出来第一个晶体管的时候,谁也想不到几十年后能人手一部智能手机,能出来这么多大大小小的应用。现在的光学计算,就是刚会走路的小孩,你不能要求他跑马拉松。
我抬头往天上看,太阳光穿过树叶的缝隙,一块一块落在地上,明暗交错,本来就是无数束并行的光,各自走,不打扰。人类折腾了这么多年,最后才想到,原来可以直接用光本身的性子来帮我们算东西。
挺浪漫的,也挺实在的。路还长,慢慢走就是了。
为啥放着好好的电子芯片不用,非要用光来算?
说白了,电子芯片跑不动了。 这两年大模型的规模翻着跟头往上涨,原来摩尔定律说好的每两年性能翻番,现在早就慢下来了。硅芯片里的电子挤在一起跑,跑快点就发热,还堵,就像国庆假期的高速路,车越多挪得越慢,烧油还多。 光不一样啊。光天生就是并行的。一束光穿过分光镜,能分成几百上千束,每一束带不同的信号,各走各的路,互相之间不干扰,根本不会堵车。
硅基电子芯片与集成光学计算芯片结构对比图
很多人觉得光学计算是这两年才冒出来的新概念,其实不对。早在上个世纪,就有人在研究了,那时候工艺跟不上,要把纳米级的光路刻在芯片上,成本高到离谱,根本没法落地。
这两年风口突然就来了,还得靠AI大模型带的。大模型最核心的运算是什么?是大矩阵乘法。说白了,就是一堆数字相乘再相加。电子计算要一个数一个数按顺序算,排队等进度。光学计算呢?直接把矩阵里的数值编码成光的振幅和相位,光穿过做好的光路芯片,结果一次出来,就是光传播那几纳秒的时间。
想想都爽。
别被营销号骗了,光学计算不是来抢电子计算机饭碗的
我兄弟说,他现在最烦出去做分享,每次讲完都有人问,什么时候能买到光学手机?什么时候换光学电脑? 他每次都要反复解释,现在的光学计算,根本不是要取代现有的电子芯片。人家是来打辅助的。 你想,光计算虽然算并行矩阵快,但是你让它做存储做逻辑控制,它不行啊。光要停下来存起来,难度比电子大多了,成本也高。现在大家落地的方向,基本都是做AI专用光学加速卡,说白了就是算力集群里,把最吃功耗最吃时间的大矩阵运算,抽出来给光学计算单元做,剩下的存储、调度、小运算,还是交给原来的电子芯片。分工合作,各自干擅长的事。
数据中心集成光学计算AI加速卡安装示意图
说实话,我之前也被网上的软文带歪了,以为马上就要计算技术革命,电子芯片要被扔进历史垃圾堆了。那次在实验室蹲了一下午才搞明白,现在能落地的场景,全都是互补,不是颠覆。
比如现在已经在测的,大模型云端推理,用了光学加速卡之后,同一个算力机房,能多跑一倍的任务,电费省一半,这对于现在动不动就烧几个亿电费的大厂来说,吸引力拉满。还有车载端的实时图像识别,摄像头进来的本来就是光信号,直接进光学计算单元做识别,不用转成电信号再折腾一遍,速度快,功耗还低,对于自动驾驶来说太香了。
现在的坑,比你能想到的多
现在的坑,比你能想到的多
不过话说回来,这条路现在还没铺平,坑多着呢。
第一个坑就是光损耗。光在光路里走,每走一毫米都会有损耗,芯片做大一点,光路长一点,最后出来的光信号弱得不行,误差就大了,现在只能做小规模的矩阵运算,太大了就hold不住,还要不停做放大校准,麻烦得很。
第二个坑就是精度。现在的光学计算,做低精度的AI推理完全没问题,大多数场景够用了。可你要让它做高精度的科学计算,比如天气预报模拟,比如航天轨道计算,那个精度要求,现在的光学计算根本达不到,误差太大,根本用不了。
还有很多小问题,比如光路的稳定性,温度变一点,折射率变了,结果就错了;还有良率,做十片光学芯片,可能只有两三片能用,成本还是降不下来。
对吧?现在很多资本吹得太神,什么“比电子计算机快一千倍”,那都是拿特定任务在理想条件下测出来的,你让它跑个操作系统,开个网页,它连你手表里的芯片都打不过。别被这种话术割了韭菜。
那天从实验室出来,已经快傍晚了,我们沿着玄武湖走,梧桐叶落了一地,风刮在脸上挺舒服。他说,其实现在做这个,就像七八十年前人们刚做出来第一个晶体管的时候,谁也想不到几十年后能人手一部智能手机,能出来这么多大大小小的应用。现在的光学计算,就是刚会走路的小孩,你不能要求他跑马拉松。
我抬头往天上看,太阳光穿过树叶的缝隙,一块一块落在地上,明暗交错,本来就是无数束并行的光,各自走,不打扰。人类折腾了这么多年,最后才想到,原来可以直接用光本身的性子来帮我们算东西。
挺浪漫的,也挺实在的。路还长,慢慢走就是了。