从算法纠偏到AI下乡：重新理解技术向善理念
我前两个月去参加一个AI行业沙龙，台上几个大佬吹完大模型降本增效的万亿市场，台下一个做乡村医疗AI的小姑娘站起来，问出了一句让全场安静的话。
为什么你们拼了命砸算力搞推荐算法、搞直播带货大模型，没人愿意把多余的算力花在给偏远地区识别罕见病上？
这句话我记到现在。技术向善理念从来不是挂在官网首页的口号，也不是用来骗流量的营销噱头，它是每个做技术的人，都该放在心里的一条底线。
MIT媒体实验室技术向善项目调研报告封面
报告里统计了全球127家市值超过10亿美金的科技公司，那些从需求调研阶段就把用户权益、伦理约束嵌入开发流程的公司，3年累计用户留存率比完全不做的公司高出27个百分点，市值平均增长率高出14%。
说实话，这个数据挺打脸那些说"技术向善影响赚钱"的人的。
早年互联网行业跑马圈地，大家比的是谁更能割韭菜，大数据杀熟、算法投喂奶头乐、招聘歧视，能赚快钱就是好技术。现在不一样了。用户用脚投票，监管也跟上了，你割一次韭菜，名声坏了，用户转头就走，再想拉回来，花的钱比你赚的多好几倍。
之前某旅行平台的大数据杀熟事件爆出来之后，多少用户直接卸载了APP，转头用了竞品，花了好几个亿的公关费才救回口碑，这个损失，比你赚那点熟客的钱多太多了。
用户现在不傻，你拿他当韭菜，他就拿你当过客。技术这东西，你对用户善，用户才会给你回报，这本来就是最朴素的商业逻辑。
乡村果农使用AI水果分选工具工作场景
我上个月跟一个AI创业团队聊天，他们做的就是给小果园做AI分选坏果的工具，价格比进口设备便宜十分之一，还能适配南方不同品种的柑橘、荔枝。现在已经有一百多个小果园在用了，每个月能帮果农少损失几万块的收成。
整个项目没怎么发过通稿，也就几个行业媒体报道过，你说这是不是技术向善？当然是。比起那些花几个亿营销的公益Demo，这种扎根在实际场景里的小项目，才是技术向善该有的样子。
不过话说回来，技术向善也不是大企业的专利，只要你做技术的时候，多想着点用户的利益，少想着点怎么割韭菜，那就是向善。
技术向善理念的长期落地，要从"道德要求"转向"制度约束"
过去聊技术向善，总说技术人员要提高道德修养，企业家要讲良知。说实话，这个靠不住。
资本逐利是本性，你指望每个老板都主动放弃眼前的利益去做对的事，本来就是不现实的。所以真正能让技术向善走下去的，不是道德绑架，是明确的规则和制度。
去年咱们国家出台的《生成式人工智能服务管理暂行办法》，就明确要求AI服务不能产生歧视性内容，不能侵害用户的合法权益，这就是把技术向善从道德要求变成了法律要求。
还有很多地方要补。比如现在很多核心算法还是黑箱，招聘算法、贷款算法、推荐算法，这些直接影响普通人权益的算法，什么时候能要求强制第三方审计？要是审计出来算法有歧视，就得整改，就得处罚，这样才能从根源上倒逼企业往向善的方向走。
真正的技术向善，还要听得见弱势群体的声音，不能大佬坐在写字楼里定义什么是善。你做无障碍产品，就得去问视障朋友真正需要什么，你做乡村医疗AI，就得去乡镇卫生院待几个月，听当地的医生说他们缺什么。
之前有个团队做老年人用的便民APP，上来就做了一堆人脸识别、智能推荐的花活，结果老年人说，我们就需要字大一点，按钮好点一点，能一键打电话给子女就行。你看，你觉得的善，不一定是人家需要的善。真正的善，是弯下腰，站在对方的立场想问题。
我上个月刷到那个乡村医疗AI小姑娘的朋友圈，她发了一筐沾着泥土的橙子，说是云南当地一个老人治好早期肺癌之后给她送的。她配文说，这是今年拿到的最好的奖杯。
技术从诞生的第一天起，就是为了帮人活得更好的。什么是技术向善理念？说白了，就是别走着走着，盯着市值盯着KPI，就忘了当初为什么要做这个技术。
就这么简单。
技术向善理念从来不是道德绑架，是商业逻辑的必然
前两年说起这个词，我也觉得是资本家洗口碑的话术，是要求技术人免费干活的道德绑架。直到看了MIT 2023年的那份行业调研报告，才改了主意。MIT媒体实验室技术向善项目调研报告封面
报告里统计了全球127家市值超过10亿美金的科技公司，那些从需求调研阶段就把用户权益、伦理约束嵌入开发流程的公司，3年累计用户留存率比完全不做的公司高出27个百分点，市值平均增长率高出14%。
说实话，这个数据挺打脸那些说"技术向善影响赚钱"的人的。
早年互联网行业跑马圈地，大家比的是谁更能割韭菜，大数据杀熟、算法投喂奶头乐、招聘歧视，能赚快钱就是好技术。现在不一样了。用户用脚投票，监管也跟上了，你割一次韭菜，名声坏了，用户转头就走，再想拉回来，花的钱比你赚的多好几倍。
之前某旅行平台的大数据杀熟事件爆出来之后，多少用户直接卸载了APP，转头用了竞品，花了好几个亿的公关费才救回口碑，这个损失，比你赚那点熟客的钱多太多了。
用户现在不傻，你拿他当韭菜，他就拿你当过客。技术这东西，你对用户善，用户才会给你回报，这本来就是最朴素的商业逻辑。
多数人搞错了方向：错把技术向善当成了公益营销
现在行业里最多的就是挂羊头卖狗肉的操作。把技术向善做成了公益秀，钱全花在拍宣传片、发通稿上，真正落地的东西一点没有。 去年就有这么一个项目，大佬站台，热搜上了好几个，结果业内人一扒，项目就是个空壳，连正经的服务器都没租几台。这种操作，透支的是整个行业对技术向善的信任，比不做还坏。 真的技术向善，从来不是做完项目再补公关稿，而是把"不伤害人"写进技术开发的第一步。 大模型训练的时候，会不会刻意过滤掉歧视性内容？会不会主动加密保护用户的隐私数据？做招聘算法的时候，会不会特意去掉性别、年龄这些带歧视的特征？这些都是技术向善，不是什么高大上的公益，就是你做产品该守的底线。乡村果农使用AI水果分选工具工作场景
我上个月跟一个AI创业团队聊天，他们做的就是给小果园做AI分选坏果的工具，价格比进口设备便宜十分之一，还能适配南方不同品种的柑橘、荔枝。现在已经有一百多个小果园在用了，每个月能帮果农少损失几万块的收成。
整个项目没怎么发过通稿，也就几个行业媒体报道过，你说这是不是技术向善？当然是。比起那些花几个亿营销的公益Demo，这种扎根在实际场景里的小项目，才是技术向善该有的样子。
不过话说回来，技术向善也不是大企业的专利，只要你做技术的时候，多想着点用户的利益，少想着点怎么割韭菜，那就是向善。
技术向善理念的长期落地，要从"道德要求"转向"制度约束"
技术向善理念的长期落地，要从"道德要求"转向"制度约束"
过去聊技术向善，总说技术人员要提高道德修养，企业家要讲良知。说实话，这个靠不住。
资本逐利是本性，你指望每个老板都主动放弃眼前的利益去做对的事，本来就是不现实的。所以真正能让技术向善走下去的，不是道德绑架，是明确的规则和制度。
去年咱们国家出台的《生成式人工智能服务管理暂行办法》，就明确要求AI服务不能产生歧视性内容，不能侵害用户的合法权益，这就是把技术向善从道德要求变成了法律要求。
还有很多地方要补。比如现在很多核心算法还是黑箱，招聘算法、贷款算法、推荐算法，这些直接影响普通人权益的算法，什么时候能要求强制第三方审计？要是审计出来算法有歧视，就得整改，就得处罚，这样才能从根源上倒逼企业往向善的方向走。
真正的技术向善，还要听得见弱势群体的声音，不能大佬坐在写字楼里定义什么是善。你做无障碍产品，就得去问视障朋友真正需要什么，你做乡村医疗AI，就得去乡镇卫生院待几个月，听当地的医生说他们缺什么。
之前有个团队做老年人用的便民APP，上来就做了一堆人脸识别、智能推荐的花活，结果老年人说，我们就需要字大一点，按钮好点一点，能一键打电话给子女就行。你看，你觉得的善，不一定是人家需要的善。真正的善，是弯下腰，站在对方的立场想问题。
我上个月刷到那个乡村医疗AI小姑娘的朋友圈，她发了一筐沾着泥土的橙子，说是云南当地一个老人治好早期肺癌之后给她送的。她配文说，这是今年拿到的最好的奖杯。
技术从诞生的第一天起，就是为了帮人活得更好的。什么是技术向善理念？说白了，就是别走着走着，盯着市值盯着KPI，就忘了当初为什么要做这个技术。
就这么简单。