从大模型伦理翻车到AI助农：重新读懂技术向善理念
上个月刷到一条新闻，某AI绘图工具把农村老人的低保申请照片自动修成了"网红脸"，还加了磨皮大眼滤镜，导致老人线下审核不通过。
你说扯不扯？
技术本来是用来提速提效率的，结果变成了添乱的。这事儿说小是产品逻辑脑残，说大就是从根上没搞懂，到底什么是技术向善理念。
国内AI企业伦理架构调研统计表
我前几年跟一个创业圈的朋友聊天，他说他们公司墙上挂着技术向善的标语，老板要求每个项目PPT第一页必须放这句话，至于后面算法怎么写，谁管你。
之前我接触过一个做乡村智慧医疗的小团队，故事刚好反过来。他们开发AI读片设备，给乡镇卫生院用，一开始模型准确率飙到96%，拿了国家级创业大赛的金奖，结果下去落地一用，全垮了。
为啥？乡镇老人拍胸片，很多人因为长期干农活、烧柴火，肺部钙化点比城市人多得多，训练集里全是大城市三甲医院的标准化片子，根本没覆盖这种特殊情况。
后来团队整个蹲在云南乡镇三个月，攒了两千多份真实样本重新调参，最后把模型的阳性预警阈值调低了十个百分点——宁可错判十分，也不漏判一个。
你看，这才叫技术向善。不是把好看的准确率放在PPT里骗投资，是把用户的真实需求，哪怕是不那么主流、不怎么赚钱的需求，放在算法优先级的最前面。对吧？
社区医院老年人使用智能挂号机实拍图
前阵子杭州有个老社区医院，做了一件特别小的事：把原来推到角落的人工挂号台，重新搬回了大厅显眼位置，还摆上了免费老花镜、纸质挂号单，挂号员都是熟悉的老护士。就这一件小事，好多老人特意过来夸，说终于不用天天喊孙子陪自己来医院了。
这件事小吗？我觉得比发十篇整版的技术向善公关稿都有用。
技术向善从来不是要去做什么拯救全人类的惊天项目，就是多回头看看，有没有人被新技术落在了后面。技术能不能给弱势群体留好位置，才是检验技术向善的试金石。
现在大模型都在卷通用助手，卷聊天，卷做PPT，有没有人专门做一款给视障用户读药品说明书的轻量化大模型？能不能把交互做得简单到，只会按一个语音键就能用？
不是做不到，是很多人根本不想做，因为不赚钱，刷不了漂亮数据，拿不到融资。不过话说回来，现在互联网大厂都在卷存量市场，真正能沉下去做下沉市场的向善技术，反而可能长出意想不到的新曲线。早年拼多多靠下沉突围，现在技术向善也一样，你把被主流技术遗忘的群体服务好了，市场自然会给你回报。
技术向善要落地，得从论文里走到真实土地上
现在很多跟技术伦理相关的科研成果，发完顶会就锁进了实验室的抽屉，根本没人想着落地。我前两年参加一个科技伦理论坛，有个清华计算机系的老教授说的话我至今记得：现在年轻人做科研，就盯着顶会影响因子，做出来的模型全是在公开数据集上刷分，根本不管实际用起来怎么样，更别说主动考虑伦理问题了。
做人脸识别，就盯着准确率刷榜，根本不考虑技术会不会被滥用，会不会泄露普通人的隐私。做推荐算法，就盯着用户停留时长，根本不管推给用户的内容是不是垃圾，会不会让人沉迷。
要改，就得从根上改。科研考核不能只看发了几篇论文，拿了多少项目经费，也要把社会价值和伦理规范算进去。今年年初科技部发布新的科研评价改革文件，明确把这两条加入了考核指标，这真的是走对了一步。
我去年看到过一个很动人的项目，西北农林科技大学的一个年轻团队，把AI图像识别和低成本无人机结合起来，给陕北的苹果种植户做果树病虫害筛查。原来果农要扛着梯子爬树逐个看，一个人一天最多查十几棵，遇到大片果园根本查不过来，等发现病虫害的时候已经扩散了。现在无人机飞一圈，半小时就能扫完几百亩地，识别准确率超过92%，还能直接语音播报给出发药的配比和用量。
人家特意做了小程序，字体调得比一般APP大三号，全语音操作，不认识字的老人都能会用。去年一年帮当地果农减少了近两成的减产损失，算下来多赚了快八百万。
这就是从实验室走到田间地头的技术向善，比多少空喊口号都来得实在。
技术从来不是什么冰冷中立的工具。你把谁的利益放在第一位，它就会长成什么样子。
现在好多人怕AI变坏，怕AI抢了普通人的饭碗，其实会变坏的从来不是技术，是握着技术权力的人。
技术向善理念，说穿了就是一层窗户纸，捅破了很简单：别让技术牵着人走，要让人牵着技术走。
就这么简单。
技术向善不是喊口号，是把"人"放在参数前面
说实话现在很多企业把技术向善当PR稿的KPI，年会讲一讲，官微发一发，转头就把用户数据卖了换广告精准投放。去年中科院计算所发布的《人工智能伦理治理白皮书》里提了一组调研数据，国内超过70%的AI企业，伦理委员会都是虚设的，连季度例会都开不起来。国内AI企业伦理架构调研统计表
我前几年跟一个创业圈的朋友聊天，他说他们公司墙上挂着技术向善的标语，老板要求每个项目PPT第一页必须放这句话，至于后面算法怎么写，谁管你。
之前我接触过一个做乡村智慧医疗的小团队，故事刚好反过来。他们开发AI读片设备，给乡镇卫生院用，一开始模型准确率飙到96%，拿了国家级创业大赛的金奖，结果下去落地一用，全垮了。
为啥？乡镇老人拍胸片，很多人因为长期干农活、烧柴火，肺部钙化点比城市人多得多，训练集里全是大城市三甲医院的标准化片子，根本没覆盖这种特殊情况。
后来团队整个蹲在云南乡镇三个月，攒了两千多份真实样本重新调参，最后把模型的阳性预警阈值调低了十个百分点——宁可错判十分，也不漏判一个。
你看，这才叫技术向善。不是把好看的准确率放在PPT里骗投资，是把用户的真实需求，哪怕是不那么主流、不怎么赚钱的需求，放在算法优先级的最前面。对吧？
技术向善最稀缺的，是向下兼容的能力
现在聊技术，张口就是大模型，就是AGI，就是千亿参数，多少人还记得，我们国家还有好几亿人用不上稳定的高速网络，还有上亿老年人连健康码都玩不转？ 去年北大社会学系发布的一份数字包容调研显示，我国现阶段还有超过2.5亿中老年人，完全没办法独立完成常用互联网APP的基础操作。很多产品更新一次，字体更小，按钮藏得更深，美其名曰交互升级，实际上就是把不会用的人直接淘汰出数字世界。 说实话，这不叫进步，这叫技术的傲慢！社区医院老年人使用智能挂号机实拍图
前阵子杭州有个老社区医院，做了一件特别小的事：把原来推到角落的人工挂号台，重新搬回了大厅显眼位置，还摆上了免费老花镜、纸质挂号单，挂号员都是熟悉的老护士。就这一件小事，好多老人特意过来夸，说终于不用天天喊孙子陪自己来医院了。
这件事小吗？我觉得比发十篇整版的技术向善公关稿都有用。
技术向善从来不是要去做什么拯救全人类的惊天项目，就是多回头看看，有没有人被新技术落在了后面。技术能不能给弱势群体留好位置，才是检验技术向善的试金石。
现在大模型都在卷通用助手，卷聊天，卷做PPT，有没有人专门做一款给视障用户读药品说明书的轻量化大模型？能不能把交互做得简单到，只会按一个语音键就能用？
不是做不到，是很多人根本不想做，因为不赚钱，刷不了漂亮数据，拿不到融资。不过话说回来，现在互联网大厂都在卷存量市场，真正能沉下去做下沉市场的向善技术，反而可能长出意想不到的新曲线。早年拼多多靠下沉突围，现在技术向善也一样，你把被主流技术遗忘的群体服务好了，市场自然会给你回报。
技术向善要落地，得从论文里走到真实土地上
技术向善要落地，得从论文里走到真实土地上
现在很多跟技术伦理相关的科研成果，发完顶会就锁进了实验室的抽屉，根本没人想着落地。我前两年参加一个科技伦理论坛，有个清华计算机系的老教授说的话我至今记得：现在年轻人做科研，就盯着顶会影响因子，做出来的模型全是在公开数据集上刷分，根本不管实际用起来怎么样，更别说主动考虑伦理问题了。
做人脸识别，就盯着准确率刷榜，根本不考虑技术会不会被滥用，会不会泄露普通人的隐私。做推荐算法，就盯着用户停留时长，根本不管推给用户的内容是不是垃圾，会不会让人沉迷。
要改，就得从根上改。科研考核不能只看发了几篇论文，拿了多少项目经费，也要把社会价值和伦理规范算进去。今年年初科技部发布新的科研评价改革文件，明确把这两条加入了考核指标，这真的是走对了一步。
我去年看到过一个很动人的项目，西北农林科技大学的一个年轻团队，把AI图像识别和低成本无人机结合起来，给陕北的苹果种植户做果树病虫害筛查。原来果农要扛着梯子爬树逐个看，一个人一天最多查十几棵，遇到大片果园根本查不过来，等发现病虫害的时候已经扩散了。现在无人机飞一圈，半小时就能扫完几百亩地，识别准确率超过92%，还能直接语音播报给出发药的配比和用量。
人家特意做了小程序，字体调得比一般APP大三号，全语音操作，不认识字的老人都能会用。去年一年帮当地果农减少了近两成的减产损失，算下来多赚了快八百万。
这就是从实验室走到田间地头的技术向善，比多少空喊口号都来得实在。
技术从来不是什么冰冷中立的工具。你把谁的利益放在第一位，它就会长成什么样子。
现在好多人怕AI变坏，怕AI抢了普通人的饭碗，其实会变坏的从来不是技术，是握着技术权力的人。
技术向善理念，说穿了就是一层窗户纸，捅破了很简单：别让技术牵着人走，要让人牵着技术走。
就这么简单。