我们真的准备好了吗？一场AI时代的技术伦理讨论

前阵子刷到一个热搜，某头部互联网公司的推荐算法被曝，给低消费用户推的全是低价贷款，给高消费用户推的都是高端理财。底下评论吵翻了天，有人说我愿意接什么关你算法什么事？有人说这就是变相割韭菜啊。

黑箱里的偏见，藏着看不见的伤害

你有没有过这种经历？只不过帮怀孕的闺蜜搜了一次产检医院，接下来大半年打开所有APP，全是母婴广告甩你脸上。你想关掉？找不到入口。你想申诉？连是谁给你贴的“孕妇”标签都说不清。 很多人说算法是中立的。放屁。 写算法的人是活生生的人，训练算法的数据是过去所有人类行为的总和，里面本来就藏着无数偏见。之前有调研发现，美国的犯罪预测算法，会把黑人居住地标注成更高犯罪风险区，就因为过去几十年警察本来就更偏向盘查黑人，数据带了偏见，算法就把这个偏见放大了一万倍。 互联网推荐算法用户标签分类后台截图 国内之前也曝过，招聘网站的算法，把年薪五十万以上的岗位，80%都推给了男性，女性连展示的机会都没有。曝光出来之后企业改了算法，道歉了，可那些错过了机会的女生，损失谁补？ 说实话，这种藏在黑箱里的歧视，比明面上的不公平更可怕。你输了，都不知道输在哪。

科研圈的伦理审查，别变成走形式的过场

说到技术伦理，很多人第一反应都是互联网大厂的事，其实最该绷紧这根弦的，是科研圈。 现在不管是做生命科学研究，还是训练大模型，发顶级论文都要求附伦理审查证明。可我接触过不少课题组，这个审查怎么来的？找本单位几个相熟的教授开个半小时会，签字盖章，完事。 伦理审查从来不是走流程，是生命线。十几年前那个基因编辑婴儿的事，现在想起来还起鸡皮疙瘩。技术上能做到，就一定要做吗？两个孩子本来可以以正常的身份来到世界，就因为科学家想抢个“世界第一”的名头，一辈子都要活在未知的风险里。 高校科研项目伦理审查公示页面 现在AI大模型火了，伦理问题更突出了。大模型训练要爬海量的图文内容，多少作者的原创作品，连招呼都没打就被拿去训练了，赚大钱的是大模型公司，一分钱稿费都没给原作者，这合理吗？还有人用AI生成深度伪造的色情视频，换脸到普通人身上，毁一个人只需要十分钟，这谁受得了？ 不过话说回来，也不能全怪课题组偷懒，现在很多高校的伦理委员会，根本没有懂前沿技术的人。你让搞哲学的教授去审GPT大模型的伦理问题，他能审出什么来？不就是签字嘛。

技术伦理不是拦路虎，是安全带

技术伦理不是拦路虎，是安全带 我见过很多搞技术的，一听到提技术伦理就皱眉头，说你们这些外行就是懂不懂瞎指挥，阻碍技术进步。 真不是这样。 谁阻碍技术进步了？我们要的不是不让你搞，是你不能乱搞啊。就说自动驾驶，现在一堆企业抢着落地，说我这技术完全成熟可以全无人了，可真撞到了人，责任算谁的？是车主的？还是算法工程师的？还是企业的？这个问题没说清，就急着往大街上放，这不就是拿普通人当小白鼠吗？ 前阵子和一个做自动驾驶的资深工程师吃饭，他说他私下里其实挺慌的。公司要抢订单抢融资，逼着提前上线，很多极端场景的测试都没跑完，他天天提心吊胆，真出了事，最后背锅的还不是他们这帮干活的？ 哦你看，连搞技术的自己都需要伦理规则来保护。 技术伦理不是反技术，是给技术装上刹车。有刹车的车，你才敢开得更快更稳对吧？总不能踩着油门往未知的悬崖冲吧？ 之前几百个全球知名的AI专家联名，要求暂停训练比GPT-4更强大的大模型半年，不是说不准搞了，是停下来先把规则说清楚：哪些能做，哪些不能做，出了事谁负责，受害者找谁赔，这些问题说不清楚，大家盲目往前冲，最后真出了无法挽回的大事，倒霉的是全行业。 技术发展的速度太快了，快到我们的规则，我们的伦理观念，都有点追不上了。可正因为追不上，才要不停地讨论啊。不能说技术跑出去十公里了，我们还在原点连规则都没定。 毕竟，技术终究是为人服务的。不是吗？