光学计算技术:为什么它会成为下一个算力破局点?
上个月跑了趟国内的半导体产业峰会,散场的时候我眼睁睁看着,一个做光学计算的年轻创始人被围得水泄不通,资本递名片的手都伸到讲台上去了。放在五年前,哪有这待遇?那时候提光学计算,十个投资人九个会摇头,说这就是实验室里骗经费的玩意。现在不一样了,算力荒荒到所有人都急眼了,大家都在找破局的路。
光学计算矩阵运算原理示意图
现在很多自媒体吹光学计算要取代硅基电子芯片,我只能说,扯。至少未来三十年,都不可能。光学计算擅长的就是特定的并行计算任务,比如AI推理、图像处理、密码破解这些,通用计算还是电子芯片的天下。现在行业里已经达成共识了,未来的方向是光电混合架构,电子芯片做控制和逻辑运算,光学计算模块做AI大模型需要的高密度矩阵运算,各干各的活,发挥各自优势。说实话,这才是最务实的路径,上来就喊着颠覆硅基的,要么不懂,要么就是骗融资的。
集成硅基光电子光学计算芯片实物图
我之前在展厅见过曦智那块计算卡的核心芯片,也就指甲盖大小,上面集成了上万根光波导。说实话拿到手里的时候我还挺感慨,原来遥不可及的技术,居然已经做到这么小了。现在最成熟的路线就是集成硅基光电子光学计算,能和现有的CMOS半导体工艺兼容,不需要重新建整条生产线,良率已经能做到百分之八十以上,成本降得比大家预想的快多了。不过话说回来,现在能落地的场景,还是大多面向To B,都是给数据中心做算力加速,还轮不到消费端,别急着找你手机里的光学计算芯片,找不到的。
坑还不少,光学计算的大规模普及还要多久?
现在行业热是热,但坑也真不少。第一个坑就是精度问题。光学计算是靠光的相位、振幅来存数据,干扰因素太多了,温度变一度,波长飘一点,结果就偏了。现在做低精度的AI推理,8bit量化是没问题的,但要是做高精度的训练,16bit甚至32bit,现在的光学计算还扛不住。怎么解决精度和稳定性的问题?现在学界都在做光电校正,就是用小的电子模块去校正光学计算的误差,思路是对的,但还没做到完美。
第二个坑就是产业链。现在光芯片的很多核心元件,比如调制器、探测器,良率还是比传统硅芯片低不少,成本也更高。你想想,数据中心要是全换成光电混合计算节点,前期投入多大?不少厂商还是在观望,不敢一下子砸大钱换设备。
还有第三个坑,就是软件生态。现在AI的整个软件栈都是给电子计算做的,光学计算要适配,得重新做编译器,重新做算子适配,哪那么容易?生态这个东西,比芯片本身难搞多了。
但是你说这些问题解决不了?倒也不是。现在AI对算力的需求太疯了,每年都翻十倍,电子计算已经跟不上了,哪怕光学计算现在有瑕疵,只要能降功耗提速度,就有人愿意用。现在国内BAT、字节这些大厂都在布局光学计算项目,今年上半年光计算领域的融资就超过了三十亿,热得发烫。
我挺看好未来十年的,说不定再过五年,你用大模型聊天的时候,背后给你跑推理的,就是一块光学计算芯片。它不是来颠覆谁的,是来给算力荒救火的。就这样,等着看吧。
别吹得太神,光学计算到底解决什么问题?
现在的电子计算走到瓶颈了,这事没人反对吧?摩尔定律停了快十年,芯片性能每两年提升不了百分之二十,功耗反而涨得飞快。数据中心现在一年的电费,抵得上一个中等国家的全年发电量,太夸张。电子计算是靠电子开关算,开关一开一关就发热,速度越快发热越厉害,这是物理定律锁死的天花板。 光学不一样啊。光天生就是并行的,一束光就能分好多路不同频率的信号一起走,互相不干扰。速度就是光速,功耗还极低,算矩阵并行运算这种AI大模型最常用的操作,天生就比电子计算快几十上百倍,功耗只有几十分之一。
光学计算矩阵运算原理示意图
现在很多自媒体吹光学计算要取代硅基电子芯片,我只能说,扯。至少未来三十年,都不可能。光学计算擅长的就是特定的并行计算任务,比如AI推理、图像处理、密码破解这些,通用计算还是电子芯片的天下。现在行业里已经达成共识了,未来的方向是光电混合架构,电子芯片做控制和逻辑运算,光学计算模块做AI大模型需要的高密度矩阵运算,各干各的活,发挥各自优势。说实话,这才是最务实的路径,上来就喊着颠覆硅基的,要么不懂,要么就是骗融资的。
从实验室到量产,光学计算技术跑赢了第一棒
放在十年前,光学计算还真就是实验室里的玩物。那时候做自由空间光学计算,要摆一大排透镜和反射镜,一间屋子才能放下一个计算模块,别说量产,连稳定性都保证不了。现在不一样了,随着硅基光电子工艺的成熟,光学计算芯片已经能做出来,甚至小规模量产了。 去年美国Lightmatter公司推出的光子AI计算芯片,在大语言模型推理任务上,相同功耗下速度是英伟达A100的十倍以上。国内的曦智科技今年也推出了量产的光子计算卡,已经给不少互联网大厂送样测试了。清华大学团队今年初还发了Nature论文,做出来了百兆像素的全光衍射神经网络芯片,目标识别的速度比传统电子芯片快三个数量级,太狠了。
集成硅基光电子光学计算芯片实物图
我之前在展厅见过曦智那块计算卡的核心芯片,也就指甲盖大小,上面集成了上万根光波导。说实话拿到手里的时候我还挺感慨,原来遥不可及的技术,居然已经做到这么小了。现在最成熟的路线就是集成硅基光电子光学计算,能和现有的CMOS半导体工艺兼容,不需要重新建整条生产线,良率已经能做到百分之八十以上,成本降得比大家预想的快多了。不过话说回来,现在能落地的场景,还是大多面向To B,都是给数据中心做算力加速,还轮不到消费端,别急着找你手机里的光学计算芯片,找不到的。
坑还不少,光学计算的大规模普及还要多久?
坑还不少,光学计算的大规模普及还要多久?
现在行业热是热,但坑也真不少。第一个坑就是精度问题。光学计算是靠光的相位、振幅来存数据,干扰因素太多了,温度变一度,波长飘一点,结果就偏了。现在做低精度的AI推理,8bit量化是没问题的,但要是做高精度的训练,16bit甚至32bit,现在的光学计算还扛不住。怎么解决精度和稳定性的问题?现在学界都在做光电校正,就是用小的电子模块去校正光学计算的误差,思路是对的,但还没做到完美。
第二个坑就是产业链。现在光芯片的很多核心元件,比如调制器、探测器,良率还是比传统硅芯片低不少,成本也更高。你想想,数据中心要是全换成光电混合计算节点,前期投入多大?不少厂商还是在观望,不敢一下子砸大钱换设备。
还有第三个坑,就是软件生态。现在AI的整个软件栈都是给电子计算做的,光学计算要适配,得重新做编译器,重新做算子适配,哪那么容易?生态这个东西,比芯片本身难搞多了。
但是你说这些问题解决不了?倒也不是。现在AI对算力的需求太疯了,每年都翻十倍,电子计算已经跟不上了,哪怕光学计算现在有瑕疵,只要能降功耗提速度,就有人愿意用。现在国内BAT、字节这些大厂都在布局光学计算项目,今年上半年光计算领域的融资就超过了三十亿,热得发烫。
我挺看好未来十年的,说不定再过五年,你用大模型聊天的时候,背后给你跑推理的,就是一块光学计算芯片。它不是来颠覆谁的,是来给算力荒救火的。就这样,等着看吧。