技术伦理讨论：当算法悄悄替你决定了人生，你敢说不吗？
上周跟一个做AI方向的博导吃火锅，酒过三巡，他甩出来一个瓜，把我惊得筷子都掉了。
现在国内一半以上的互联网大厂，校招初筛全靠算法。你简历上哪怕只写了一句“曾任女子排球队队长”，都会被算法默默扣十分——因为训练数据告诉它，女生不稳定，干不了多久要怀孕休产假。
你说冤不冤？
AI招聘算法性别偏见准确率统计图表
去年看过一篇国内高校的科研论文，测试了市面上十款主流的AI人脸识别系统，结果发现：对浅肤色男性的识别准确率是99.2%，对深肤色女性的准确率只有71.3%。差了快三十个百分点。
错抓的冤假错案，多少？没人统计。就算有，也不会公开。
很多人张口就说“技术只是工具，不分好坏”。骗鬼呢。工具是谁做的？谁喂的数据？谁定的优化目标？
算法要优化招聘效率，减少HR工作量，优化目标是“招进来的人干满两年以上”，它从历史数据里学到的规律就是“男性比女性干得久”，那它自然就歧视女性——谁管你是因为公司原来就歧视女性，逼得女性干不久呢？
偏见滚雪球，越用越准，越准越被人说“客观高效”。最后出事了，甩一句“算法就是这么算的”，完美抽身。
2020-2024顶会AI项目伦理审查比例柱形图
今年年初Nature发过一篇调研，全球超过80%的前沿AI项目，伦理审查就是走个过场，还有12%的项目，根本就没有伦理审查这一步。
贺建奎的基因编辑婴儿案过去快六年了吧？当时就是觉得CRISPR技术成熟了，我能做，就偷偷做了，根本不管那两个出生的孩子未来要面对什么，她们的基因会不会流入人类种群。
现在AI预测疾病风险火了，多少保险公司已经在偷偷用了？你去买重疾险，算法扫一遍你的基因数据、社交数据、就医记录，算出来你未来十年得癌症的概率比别人高20%，直接拒保。你连为什么被拒都不知道，只会觉得是自己倒霉。
资本追着技术跑，科研追着指标跑，跑着跑着，就把最该放在前面的“人”给跑丢了。
不过话说回来，伦理讨论也不是要给技术套枷锁，很多人一听到说伦理，就跳出来说你们外行要拦着我们进步，这纯属偷换概念。
技术伦理讨论，核心是要人牵着技术走
伦理前置，不是拦着你做，是做之前先想清楚：这个技术是为谁服务的？会伤害到谁？出了事谁负责？
很多人觉得这是废话，技术进步不就是为了人类好吗？可现实是，太多技术进步，只是为了资本的利润好，为了少数人的权力好，普通人分到的只有伤害。
大数据杀熟，技术够先进吧？同样买一张机票，老用户比新用户贵两百，算法精准拿捏你的消费习惯，就是为了多赚你钱，这技术进步对普通人有什么好？
之前有个新闻，外卖平台的算法逼得骑手闯红灯，把送餐时间压缩到极限，算法效率上去了，商家和平台赚得多了，骑手的命就不值钱了？
欧盟的AI法案去年正式通过了，把AI分成四个等级，不可接受风险的直接禁，高风险的必须过严格的伦理审查，公示算法逻辑，出问题要追责。很多人骂太保守，可我觉得，这才是对的。
我们国内过去总讲先上车后补票，技术先跑出去，赚钱了再说，出事了再管。可很多事，出了事就补不了票了。深度伪造造个谣言毁一个人，只需要十分钟，你事后再辟谣，毁了的名誉能回来吗？
现在好的趋势是，已经有团队开始做对的事了。国内几个做大模型的头部公司，都招了全职的伦理学家进核心组，训练数据阶段就把偏见内容筛出去，做产品的时候留死了人工退出通道——算法做的任何决定，只要用户不服，就能找到人改，就能推翻算法的结论。
这才对嘛。技术本来就是人发明的，怎么就变成了人要听算法的？
我前阵子刷到一个年轻前端工程师的朋友圈，说他刚从一家金融公司辞职，原因是领导让他写一个弹窗算法，专门给刚入社会的大学生推高息小额贷，弹窗位置、文案颜色都算好了，就是要哄着你借钱。他不愿意做，领导说你不做有的是人做，他干脆打包走了。
我看完挺感慨的。其实技术伦理从来不是什么高高在上的学术话题，也不是只有专家要关心的事。它就是每一个写代码的人，每一个做产品的人，每一个搞科研的人，每一次做选择的时候，心里那点底线。
你可以选择做赚快钱的算法，也可以选择不做。你可以选择把人当流量，也可以选择把人当人。
技术能做到的事，不代表就应该做。这个道理，什么时候都不会错。
你以为的技术中立，早就埋下了偏见的种子
这个事不是新闻了。十几年前亚马逊就搞过同款招聘算法，结果训练用的是过去十年的简历，那十年互联网行业求职者本就是男性占绝大多数，算法学来学去，直接把所有带“女性”相关关键词的简历都打了低分，最后项目被迫关停，没敢用。 放到十几年后的今天，同款算法依旧在各大公司的HR系统里跑着。只是没人敢把这事摆到台面上说。AI招聘算法性别偏见准确率统计图表
去年看过一篇国内高校的科研论文，测试了市面上十款主流的AI人脸识别系统，结果发现：对浅肤色男性的识别准确率是99.2%，对深肤色女性的准确率只有71.3%。差了快三十个百分点。
错抓的冤假错案，多少？没人统计。就算有，也不会公开。
很多人张口就说“技术只是工具，不分好坏”。骗鬼呢。工具是谁做的？谁喂的数据？谁定的优化目标？
算法要优化招聘效率，减少HR工作量，优化目标是“招进来的人干满两年以上”，它从历史数据里学到的规律就是“男性比女性干得久”，那它自然就歧视女性——谁管你是因为公司原来就歧视女性，逼得女性干不久呢？
偏见滚雪球，越用越准，越准越被人说“客观高效”。最后出事了，甩一句“算法就是这么算的”，完美抽身。
科研圈的“技术先行”，正在把伦理甩在身后
说实话，我最近逛学术会议，最烦听到一句话：“技术能做到，为什么不能做？” 顶会发论文看什么？看指标。你把大模型的困惑度降了两个点，把换脸的感知相似度提了五个点，就能中，就能拿基金，就能评教授。至于这个技术放出去会被用来干什么，有没有风险，没人问，也没人管。 去年刷到一个二本院校的计算机毕设，作者做了个一键AI换脸的工具，开源在Github上，示例用的就是把当红女星的脸换到成人视频上，美其名曰“技术演示”。底下一堆人求部署教程，点赞破千，没人说不对。2020-2024顶会AI项目伦理审查比例柱形图
今年年初Nature发过一篇调研，全球超过80%的前沿AI项目，伦理审查就是走个过场，还有12%的项目，根本就没有伦理审查这一步。
贺建奎的基因编辑婴儿案过去快六年了吧？当时就是觉得CRISPR技术成熟了，我能做，就偷偷做了，根本不管那两个出生的孩子未来要面对什么，她们的基因会不会流入人类种群。
现在AI预测疾病风险火了，多少保险公司已经在偷偷用了？你去买重疾险，算法扫一遍你的基因数据、社交数据、就医记录，算出来你未来十年得癌症的概率比别人高20%，直接拒保。你连为什么被拒都不知道，只会觉得是自己倒霉。
资本追着技术跑，科研追着指标跑，跑着跑着，就把最该放在前面的“人”给跑丢了。
不过话说回来，伦理讨论也不是要给技术套枷锁，很多人一听到说伦理，就跳出来说你们外行要拦着我们进步，这纯属偷换概念。
技术伦理讨论，核心是要人牵着技术走
技术伦理讨论，核心是要人牵着技术走
伦理前置，不是拦着你做，是做之前先想清楚：这个技术是为谁服务的？会伤害到谁？出了事谁负责？
很多人觉得这是废话，技术进步不就是为了人类好吗？可现实是，太多技术进步，只是为了资本的利润好，为了少数人的权力好，普通人分到的只有伤害。
大数据杀熟，技术够先进吧？同样买一张机票，老用户比新用户贵两百，算法精准拿捏你的消费习惯，就是为了多赚你钱，这技术进步对普通人有什么好？
之前有个新闻，外卖平台的算法逼得骑手闯红灯，把送餐时间压缩到极限，算法效率上去了，商家和平台赚得多了，骑手的命就不值钱了？
欧盟的AI法案去年正式通过了，把AI分成四个等级，不可接受风险的直接禁，高风险的必须过严格的伦理审查，公示算法逻辑，出问题要追责。很多人骂太保守，可我觉得，这才是对的。
我们国内过去总讲先上车后补票，技术先跑出去，赚钱了再说，出事了再管。可很多事，出了事就补不了票了。深度伪造造个谣言毁一个人，只需要十分钟，你事后再辟谣，毁了的名誉能回来吗？
现在好的趋势是，已经有团队开始做对的事了。国内几个做大模型的头部公司，都招了全职的伦理学家进核心组，训练数据阶段就把偏见内容筛出去，做产品的时候留死了人工退出通道——算法做的任何决定，只要用户不服，就能找到人改，就能推翻算法的结论。
这才对嘛。技术本来就是人发明的，怎么就变成了人要听算法的？
我前阵子刷到一个年轻前端工程师的朋友圈，说他刚从一家金融公司辞职，原因是领导让他写一个弹窗算法，专门给刚入社会的大学生推高息小额贷，弹窗位置、文案颜色都算好了，就是要哄着你借钱。他不愿意做，领导说你不做有的是人做，他干脆打包走了。
我看完挺感慨的。其实技术伦理从来不是什么高高在上的学术话题，也不是只有专家要关心的事。它就是每一个写代码的人，每一个做产品的人，每一个搞科研的人，每一次做选择的时候，心里那点底线。
你可以选择做赚快钱的算法，也可以选择不做。你可以选择把人当流量，也可以选择把人当人。
技术能做到的事，不代表就应该做。这个道理，什么时候都不会错。