被算法推着走的我们：技术伦理讨论不该只停在会议室

上周跟一个做GPT微调的朋友吃饭，她跟我倒了半小时苦水。 她负责训练一个面向C端的人脸生成模型，上周扒训练集的时候，翻出来三千多张偷拍到的素人照片，还有上百张未成年人的私密照片。她给项目主管提建议，说停一周，全量筛一遍数据再继续，结果被骂了一顿，说“上市窗口期不等人，这点小事也要耽误进度”。 她说这话的时候，杯子里的冰都化完了。 我没说出啥安慰的话。只觉得后背发冷。

技术伦理讨论，从来不是“文科生的多余操心”

AI大模型训练数据标注工作室现场图 说实话，我早几年也觉得，技术伦理就是一帮搞社科的人闲的，看互联网公司赚了钱眼热，才出来喊口号。直到我老家亲戚碰上AI换脸诈骗，骗走了攒了三年给孩子买房的首付，我才回过神。 那些坐在办公室里敲代码的决策，早已经伸到你我的生活里，掐着你的脖子了。 中性的技术从来不存在。写代码的人要吃饭，开公司的老板要KPI，训练数据是从网上扒的还是合法授权的，本来就带着立场。你说算法是中性的，那外卖平台把超时的责任全算给骑手，出了车祸说“这是系统规则我们改不了”，不是扯吗？ 太扯了。 去年剑桥大学发布的AI领域科研调研报告显示，全球排名前100的AI顶刊论文里，超过七成没有提及训练数据的版权和来源合规性，更别说提伦理审查了。大家都想着快点出成果，快点落地，快点变现，谁有空管那堆“没用”的事？

现在的技术伦理讨论，困在三个走不出来的怪圈里

我参加过不下十场行业里的技术伦理论坛，听来听去，发现大多都是自说自话，绕来绕去绕不开三个怪圈。 第一个怪圈，就是只聊遥远的，不聊眼前的。上台发言的嘉宾张口就是AGI毁灭人类，闭口就是未来人机大战，听起来特别宏大特别深刻，可没人聊现在外卖算法把骑手的接单时间压缩到多少秒，没人聊短视频算法把未成年人的沉迷阈值拉到了多高，这些就在我们眼皮子底下的事，全被绕过去了。 第二个怪圈，就是只罚干活的，不追出钱的。每次出了伦理问题，最后都是找个一线产品经理或者算法工程师背锅，说你“缺乏伦理意识”，可谁都不说，那个要求三个月必须上线、KPI就是日活涨十个点的命令是谁下的。资本躲在后面赚的盆满钵满，出来认错的都是拿月薪的打工人，这逻辑对吗？ 第三个怪圈，就是全是正确的废话，没半分落地的动作。现在但凡有点规模的科技公司，都要设个首席伦理官的职位，发布会吹一波自己重视伦理，转头这个职位就成了公关岗，只写稿子不干事。 国内互联网企业技术伦理研讨会现场照 我认识一个头部大厂的前伦理官，他跟我吐槽说，他入职一年，开了十八场发布会，写了九篇公关稿，从来没参与过任何一个产品上线前的伦理审查，工位在公司顶楼最偏僻的角落，连产品部的新员工都不知道还有这么个部门。你说讽刺不讽刺？

要把伦理从PPT上拽下来

要把伦理从PPT上拽下来 很多人说，技术伦理是专家的事，普通人插不上嘴。这话不对。技术影响的是每一个人，凭什么只有专家和老板说了算？ 现在其实已经有不少好的尝试了。欧盟去年正式通过的AI法案，把AI产品按风险分成了四个等级，不可接受风险的直接禁止，高风险的必须公开训练数据来源，上线前做强制伦理审查，出了问题直接追责企业法人，不是找个小员工背锅。国内做自动驾驶的几家头部公司，现在也改了规则，测试阶段做算法决策的时候，不是只有工程师和老板拍板，会拉上普通人、交警、社会学研究者一起投票，碰到“撞到行人还是打方向撞护栏”这种极端问题，不会只按“赔偿金额最低”来算权重，会把人的生命放在第一位。 我真觉得这才是对的方向。技术本来就是为人服务的，怎么搞到最后，人变成了技术的耗材？ 不过话说回来，这事也不能全怪科技公司和资本，我们每个用产品的人，其实也有责任。你点外卖的时候，会不会因为晚了两分钟就给骑手差评？你刷短视频的时候，是不是总忍不住点那些刺激的八卦内容？你点的每一次赞，给的每一个差评，其实都在训练算法，推着算法往更极端的方向走。对吧？ 我们总说要技术向善，可向善不是喊一句口号就完了，它需要你在催骑手的时候多等两分钟，需要公司在冲KPI的时候慢一点，需要监管把规则落在纸面上，出了问题敢罚真钱。 技术伦理讨论从来不是要扼杀技术进步，是要让技术走在对的路上，走得更远一点。别再把它关在会议室的PPT里了，放出来，到我们的生活里来。