深度学习技术：从实验室到菜市场，它早就变了样
去年去寒武纪的开放日，听到一个算法工程师吐槽，说三年前投资人还在追着问“你们家模型参数多少亿”，现在开口就问“能不能帮我们用深度学习数清楚水产市场一车鲢鱼有多少条”。
真的有意思。深度学习技术发展到今天，早就不是大众印象里那副高高在上的样子了。
农业深度学习果树测产实景图
说实话，我之前也觉得深度学习就是大佬玩的烧钱游戏，那次跟一个做工业检测的朋友跑了三个月珠三角的工厂，才彻底改了想法。东莞一个做手机玻璃盖板的厂子，原来靠人工挑划痕，一千片得两个工人盯一天，漏检率还能到百分之三，遇到赶订单的时候工人熬得眼睛都红了，错得更多。现在用他们训练的深度学习模型，装在几百块钱的工业相机后面，一秒出一张结果，漏检率不到千分之一。整个模型才不到100M，跑在最便宜的边缘计算盒里就行。整套下来成本才两千多块，三个月就回本了。
那些天天喊深度学习都是泡沫的人，根本没下过厂子好好看看。泡沫是那些吹出来的概念，真扎进场景的深度学习技术，早就开始给普通人赚钱了。
深度学习流体模拟结果对比图
不过话说回来，这其实不是什么倒退，是补之前的欠账。前五六年资本热，大家都追热点，都往大模型挤，谁做小模型做落地谁拿不到经费，发论文也没人理。现在资本冷静了，产业需求顶上来了，大家才发现，原来把深度学习做小、做准、做进具体的场景，比堆参数难一万倍，也有价值一万倍。
我上个月刷arxiv，看到东南大学几个年轻博士生发的一篇论文，他们做的是用深度学习给敦煌的褪色古壁画补色，不是那种文生图式的凭感觉瞎补，是把古代颜料的化学成分、不同年代的氧化规律、甚至古代画师的构图习惯都嵌进了模型，补出来的颜色，敦煌研究院做了几十年修复的专家都挑不出大错。原来深度学习还能这么用，挺震撼的。
普通人怎么蹭深度学习技术的这波新机会？
最近半年，不下十个做传统行业的老板找我问，我要不要搞个自己的大模型？我每次都劝，你先搞清楚你要解决什么问题。你开十多家连锁水果店的，你不需要大模型给你写营销文案，你需要的是模型帮你数每个货架上还剩多少苹果，什么时候该补货，能不能看出哪个员工偷偷拿了东西对吧？
现在深度学习技术的门槛，已经低到超出大部分人的想象。你只要有几百张合格的样本，找个相关专业的大学生，花一周就能训出来能用的模型，撑死了花两万块钱。很多人被网上的千亿参数新闻吓坏了，觉得深度学习是巨头才玩得起的东西，其实根本不是这么回事。
我认识一个开宠物医院的老板，自己找了读计算机的外甥，把三年来医院拍的八千张猫尿沉渣显微镜照片整理出来，花五千块钱租了半年云服务器，训了个识别结晶类型的模型，现在新手医生看片的准确率直接从70%升到了92%，大大减少了误诊率，这钱花得值到姥姥家。
当然坑也不少。我见过最多的坑就是，上来就要大模型，就要通用智能，结果花了几百万，做出来的东西还不如几万块的小模型好用，钱打了水漂，还说深度学习都是骗子。还有就是样本不对，训模型的样本都是网上随便找的，放到你自己的场景里，光线不一样，设备不一样，出来的结果全错，这个坑起码一半人踩过。
现在这波深度学习技术落地的浪潮，最赚钱的根本不是喊着要做通用人工智能的巨头，是那些能把深度学习扎进细分场景的小团队。比如说专门给养鸡场做AI估重的，专门给袜子厂挑跳针的，专门给火锅店数菜的，一个细分场景一年赚几千万，比好多喊着做大模型的公司活得舒服多了。
你现在往街头走一走，奶茶店的智能点单屏，菜市场的AI计价秤，小区停车场的抬杆系统，甚至你手机里的拍照美颜，全都是深度学习在背后跑。它早就不是实验室里飘在天上的黑科技了，就是个给普通人干活的工具而已。
早不是你印象里只玩大模型的深度学习技术了
很多人一提起深度学习，第一反应就是ChatGPT、Sora，动不动就是千亿参数、万亿token，烧钱烧到天文数字。 其实不对。现在产业侧的深度学习，早就往小而准的方向走了。 今年ICCV放出来的最新成果，一半以上都是针对特定场景的轻量化模型，比方说养猪场里估猪的体重，南方果园里数荔枝挂果量，模型参数才几百万，比GPT-4小了一万倍都不止，准确率反而比大模型微调还高两个百分点。农业深度学习果树测产实景图
说实话，我之前也觉得深度学习就是大佬玩的烧钱游戏，那次跟一个做工业检测的朋友跑了三个月珠三角的工厂，才彻底改了想法。东莞一个做手机玻璃盖板的厂子，原来靠人工挑划痕，一千片得两个工人盯一天，漏检率还能到百分之三，遇到赶订单的时候工人熬得眼睛都红了，错得更多。现在用他们训练的深度学习模型，装在几百块钱的工业相机后面，一秒出一张结果，漏检率不到千分之一。整个模型才不到100M，跑在最便宜的边缘计算盒里就行。整套下来成本才两千多块，三个月就回本了。
那些天天喊深度学习都是泡沫的人，根本没下过厂子好好看看。泡沫是那些吹出来的概念，真扎进场景的深度学习技术，早就开始给普通人赚钱了。
今年最惊艳的科研成果，都在往“实”地方走
不只是产业，科研圈的风向也变了。前几年发顶会，你不说你模型参数又涨了多少，准确率又刷了多少榜单，都不好意思开口。现在不一样了，今年上半年几个引发业内讨论的成果，全都是解决真问题的，甚至看起来有点“笨”。 CMU和字节合作的一个团队，搞了个针对小样本学习的动态正则化方法，原来你要训练一个识别新产品缺陷的模型，得攒几万张不同缺陷的样本，很多小工厂根本攒不出这么多数据，现在一百张就够，准确率掉不到一个点，直接把中小工厂的门槛打下来了。还有港中文深圳分校的团队，把深度学习和传统流体力学公式做了结合，原来做工业设计的流体模拟，要么靠传统方法算几个小时出结果，拖慢设计进度，要么纯用深度学习模拟，精度差得没法用。他们把纳维-斯托克斯方程直接嵌进了模型的损失函数里，不仅推理速度快了一百倍，误差还降了八成，现在已经有几家车企拿这个做新车风阻模拟了。深度学习流体模拟结果对比图
不过话说回来，这其实不是什么倒退，是补之前的欠账。前五六年资本热，大家都追热点，都往大模型挤，谁做小模型做落地谁拿不到经费，发论文也没人理。现在资本冷静了，产业需求顶上来了，大家才发现，原来把深度学习做小、做准、做进具体的场景，比堆参数难一万倍，也有价值一万倍。
我上个月刷arxiv，看到东南大学几个年轻博士生发的一篇论文，他们做的是用深度学习给敦煌的褪色古壁画补色，不是那种文生图式的凭感觉瞎补，是把古代颜料的化学成分、不同年代的氧化规律、甚至古代画师的构图习惯都嵌进了模型，补出来的颜色，敦煌研究院做了几十年修复的专家都挑不出大错。原来深度学习还能这么用，挺震撼的。
普通人怎么蹭深度学习技术的这波新机会？
普通人怎么蹭深度学习技术的这波新机会？
最近半年，不下十个做传统行业的老板找我问，我要不要搞个自己的大模型？我每次都劝，你先搞清楚你要解决什么问题。你开十多家连锁水果店的，你不需要大模型给你写营销文案，你需要的是模型帮你数每个货架上还剩多少苹果，什么时候该补货，能不能看出哪个员工偷偷拿了东西对吧？
现在深度学习技术的门槛，已经低到超出大部分人的想象。你只要有几百张合格的样本，找个相关专业的大学生，花一周就能训出来能用的模型，撑死了花两万块钱。很多人被网上的千亿参数新闻吓坏了，觉得深度学习是巨头才玩得起的东西，其实根本不是这么回事。
我认识一个开宠物医院的老板，自己找了读计算机的外甥，把三年来医院拍的八千张猫尿沉渣显微镜照片整理出来，花五千块钱租了半年云服务器，训了个识别结晶类型的模型，现在新手医生看片的准确率直接从70%升到了92%，大大减少了误诊率，这钱花得值到姥姥家。
当然坑也不少。我见过最多的坑就是，上来就要大模型，就要通用智能，结果花了几百万，做出来的东西还不如几万块的小模型好用，钱打了水漂，还说深度学习都是骗子。还有就是样本不对，训模型的样本都是网上随便找的，放到你自己的场景里，光线不一样，设备不一样，出来的结果全错，这个坑起码一半人踩过。
现在这波深度学习技术落地的浪潮，最赚钱的根本不是喊着要做通用人工智能的巨头，是那些能把深度学习扎进细分场景的小团队。比如说专门给养鸡场做AI估重的，专门给袜子厂挑跳针的，专门给火锅店数菜的，一个细分场景一年赚几千万，比好多喊着做大模型的公司活得舒服多了。
你现在往街头走一走，奶茶店的智能点单屏，菜市场的AI计价秤，小区停车场的抬杆系统，甚至你手机里的拍照美颜，全都是深度学习在背后跑。它早就不是实验室里飘在天上的黑科技了，就是个给普通人干活的工具而已。