重新理解技术向善理念：不是口号，是刻进代码里的底线
上个月去参加一个人工智能行业的小型闭门会，碰到个在头部大厂做预训练模型的小伙子，端着咖啡跟我吐槽。
老板上周刚让公关部发了万字长文讲公司践行技术向善，转头就要求他想办法绕过平台规则，爬取竞品的用户公开内容做训练素材。
可笑吧。
现在提起技术向善，十个有九个会觉得是资本家的公关幌子，是蹭热度的营销话术。可真的是这样吗？
MIT媒体实验室技术向善开发流程对比图
别觉得这是道德溢价。技术走到今天，早过了只要能实现功能就能赚钱的阶段。你做一个算法，要是天生带偏见，早晚会出事。多年前亚马逊做招人AI，因为训练数据全是过去十年男工程师的简历，算法直接把“女性”这个标签当成减分项，筛简历直接pass女申请者，闹得满城风雨，最后整个项目砍掉，损失了几千万。说白了，这就是开发的时候没把向善的底线放进去，吃了大亏。
说实话，技术向善这个概念，本来就不是公关圈造出来的，最早就是科研界提出来的生存准则。当年万维网之父蒂姆·伯纳斯·李，放弃了万维网的专利，把它完全公开给全世界，就是最早的技术向善实践。他说我做这个东西不是为了赚钱，是为了让所有人都能自由获取信息。这句话放到今天，也不过时。
视障人群AI辅助出行设备现场测试图
测试那天有个全盲的张大叔，五十多了，之前出门必须牵老伴或者麻烦邻居，那天拿着装了这个系统的手机，自己从小区门口走到一百米外的包子铺，买了一笼包子回来，站在原地笑，说我这辈子都没想到还能自己买早饭。
我当时鼻子有点酸。原来技术向善从来不是什么高大上的概念，就是让本来被技术落下的人，也能享受到技术的好处。
不过话说回来，现在蹭这个热度的也不少。什么AI算命给人改运势也敢叫技术向善公益项目，说白了就是割智商税，败坏了这个概念的名声。但你去看国家自然科学基金的立项数据，2023年和技术向善相关的立项数，比2020年翻了四倍，越来越多的科研团队真的在拿经费做实事，不是蹭流量。西北农林的团队用遥感技术帮西北山区找地下水，不用像以前那样盲打井浪费十几万的成本，帮农民省了大钱，这也是技术向善啊。不是只有大厂的大模型才配谈这个。
把技术向善理念落地，别搞虚的要动真格
现在很多企业说我要践行技术向善，怎么做呢？发一份白皮书，开一场公益论坛，找几个明星站台，完事了。该杀熟还是杀熟，该偷数据还是偷数据。
真的落地，其实根本不用搞这么多花活。核心就两条。
第一条，在需求评审阶段就加伦理审核门槛。这个功能做出来，会不会伤害某一群人的利益？会不会侵犯用户的隐私？有没有可能被坏人用来干坏事？比如你做一个面向学生的贷款APP，非要搞什么通讯录授权，逾期了就爆通讯录，这从需求阶段就违反了向善的底线，直接砍掉就完了。别等出事了再拿技术向善出来洗地，晚了。
第二条，让受益或者受影响的群体参与开发。你做面向老年人的智能设备，别一帮二十多岁的工程师坐在CBD写字楼里拍脑袋想，去找小区里的老头老太试三次，你就知道字体得多大，步骤得砍到几步，别搞什么花里胡哨的人脸识别，很多老人脸上有皱纹斑，根本识别不出来，这不就是小事吗？就是因为没让目标用户参与，才搞出这么多难用的产品，说白了就是没走心。
去年欧盟出台的AI法案，要求所有高风险AI必须提前做伦理影响评估，国内也出了生成式AI的管理办法，核心其实就是把技术向善从道德要求，变成了合规要求。你不遵守，就没法进场玩。
很多开发者说我就是做个小产品，谈什么技术向善？其实不对。你做一个小区团购的小程序，不偷偷把用户的地址电话卖给装修公司，就是向善。你做一个资讯APP，不推低俗标题党博流量，给用户推真正有用的内容，就是向善。
技术从来都是工具。工具本身没好坏，但拿工具的人，得有底线。别把技术向善当金字招牌挂在墙上，做事情的时候拿出来对对自己的良心，就够了。
技术向善理念不是道德绑架，是科研验证的生存规则
我去年翻到MIT媒体实验室2023年公开发表的一篇追踪研究，团队花了三年时间，跟踪了全球217家涉足人工智能、大数据的科技公司，统计下来的结果很有意思：那些从开发阶段就把技术向善要求嵌入流程的公司，出现合规问题、用户信任危机的概率，比只把技术向善放在宣传页上的公司低了67%。MIT媒体实验室技术向善开发流程对比图
别觉得这是道德溢价。技术走到今天，早过了只要能实现功能就能赚钱的阶段。你做一个算法，要是天生带偏见，早晚会出事。多年前亚马逊做招人AI，因为训练数据全是过去十年男工程师的简历，算法直接把“女性”这个标签当成减分项，筛简历直接pass女申请者，闹得满城风雨，最后整个项目砍掉，损失了几千万。说白了，这就是开发的时候没把向善的底线放进去，吃了大亏。
说实话，技术向善这个概念，本来就不是公关圈造出来的，最早就是科研界提出来的生存准则。当年万维网之父蒂姆·伯纳斯·李，放弃了万维网的专利，把它完全公开给全世界，就是最早的技术向善实践。他说我做这个东西不是为了赚钱，是为了让所有人都能自由获取信息。这句话放到今天，也不过时。
今天的技术向善，早已从“不做恶”进化到“主动解决问题”
前两年大家聊技术向善，最多就是说“企业不要做恶”，现在早就变了。学界和产业界都在往“主动用技术解决解决不了的问题”走。 去年我跟着朋友去中科院自动化所的一个项目测试点，看他们做的视障人群AI场景识别辅助设备。不是普通的读屏软件，是能通过手机摄像头，识别出你面前的台阶有多高，路边奶茶杯的温度，甚至公交还有几分钟进站，菜市场摊子上摆的是什么菜，都能给你说的明明白白。视障人群AI辅助出行设备现场测试图
测试那天有个全盲的张大叔，五十多了，之前出门必须牵老伴或者麻烦邻居，那天拿着装了这个系统的手机，自己从小区门口走到一百米外的包子铺，买了一笼包子回来，站在原地笑，说我这辈子都没想到还能自己买早饭。
我当时鼻子有点酸。原来技术向善从来不是什么高大上的概念，就是让本来被技术落下的人，也能享受到技术的好处。
不过话说回来，现在蹭这个热度的也不少。什么AI算命给人改运势也敢叫技术向善公益项目，说白了就是割智商税，败坏了这个概念的名声。但你去看国家自然科学基金的立项数据，2023年和技术向善相关的立项数，比2020年翻了四倍，越来越多的科研团队真的在拿经费做实事，不是蹭流量。西北农林的团队用遥感技术帮西北山区找地下水，不用像以前那样盲打井浪费十几万的成本，帮农民省了大钱，这也是技术向善啊。不是只有大厂的大模型才配谈这个。
把技术向善理念落地，别搞虚的要动真格
把技术向善理念落地，别搞虚的要动真格
现在很多企业说我要践行技术向善，怎么做呢？发一份白皮书，开一场公益论坛，找几个明星站台，完事了。该杀熟还是杀熟，该偷数据还是偷数据。
真的落地，其实根本不用搞这么多花活。核心就两条。
第一条，在需求评审阶段就加伦理审核门槛。这个功能做出来，会不会伤害某一群人的利益？会不会侵犯用户的隐私？有没有可能被坏人用来干坏事？比如你做一个面向学生的贷款APP，非要搞什么通讯录授权，逾期了就爆通讯录，这从需求阶段就违反了向善的底线，直接砍掉就完了。别等出事了再拿技术向善出来洗地，晚了。
第二条，让受益或者受影响的群体参与开发。你做面向老年人的智能设备，别一帮二十多岁的工程师坐在CBD写字楼里拍脑袋想，去找小区里的老头老太试三次，你就知道字体得多大，步骤得砍到几步，别搞什么花里胡哨的人脸识别，很多老人脸上有皱纹斑，根本识别不出来，这不就是小事吗？就是因为没让目标用户参与，才搞出这么多难用的产品，说白了就是没走心。
去年欧盟出台的AI法案，要求所有高风险AI必须提前做伦理影响评估，国内也出了生成式AI的管理办法，核心其实就是把技术向善从道德要求，变成了合规要求。你不遵守，就没法进场玩。
很多开发者说我就是做个小产品，谈什么技术向善？其实不对。你做一个小区团购的小程序，不偷偷把用户的地址电话卖给装修公司，就是向善。你做一个资讯APP，不推低俗标题党博流量，给用户推真正有用的内容，就是向善。
技术从来都是工具。工具本身没好坏，但拿工具的人，得有底线。别把技术向善当金字招牌挂在墙上，做事情的时候拿出来对对自己的良心，就够了。