技术伦理讨论：别让科研变成埋在时代里的雷
前阵子刷到一条新闻，某国内创业公司拿用户上传的私人病历训练AI医疗大模型，连最基本的脱敏都没做，被举报之后才慌慌张张下架模型，说“我们对伦理问题重视不够”。
这话说的，真有意思。
好像伦理是个可有可无的点缀，不是吃饭的家伙事儿，只有出事了才想起来拿出来挡一下。
国际技术伦理研讨会线下辩论现场照片
之前贺建奎那事儿出来之后，全行业都在骂，都在说要加强伦理审查，结果呢？去年还有媒体爆出来，国内不止一个地下诊所偷偷做基因编辑胎儿，收费上百万，有钱人偷偷去做，就为了生个高智商高颜值的孩子。
这个时候，那些喊着技术伦理的人去哪了？
哦，都在写论文骂贺建奎，没人管底下这些灰色生意。说白了，现在的技术伦理讨论，永远都是出了天大的事，才凑过来开个会骂两句，定几条不痛不痒的规则，然后该干嘛干嘛。
等下一个更大的雷爆出来，再重复一遍流程。
AI深度换脸技术伦理风险科普宣传海报
前几年哈佛大学那个研究，还记得吗？团队用AI训练了一个模型，说看人脸就能判断一个人有没有犯罪倾向，准确率快九成。发在了顶刊上，一堆人跟风吹技术突破。
拆穿了很可笑：训练用的数据集里，百分之七十六的“犯罪样本”都是非裔和拉美裔低收入人群，模型学的根本不是“犯罪特征”，学的是社会已经存在的偏见，最后还把这个偏见包装成了算法给出的“客观结论”。没有什么纯中性的技术，从你选课题那一步开始，就已经做了伦理选择。
你选择做什么，不做什么，选择服务谁，损害谁的利益，每一步都带着你的立场。拿技术中性当挡箭牌，不过是不想为自己做出来的东西负责罢了。
说实话，现在很多前沿技术，能量已经大到能改变普通人的命运了，哪还有什么中性可言。CRISPR能改人类基因，大模型能操纵舆论，AI能精准杀熟，每一个技术出来，都会重新分一次蛋糕，有人赚的盆满钵满，有人连隐私都剩不下。
这个时候跟我说技术中性？不就是说，反正赚好处的是我，背锅的是社会，跟我没关系？
技术伦理不该只停在论文里，要变成扎紧的笼子
现在很多技术伦理讨论，都是学术界圈子里自说自话，开个会，出个宣言，发几篇论文，就等于完事了。根本落不到科研和产业的实处。
我之前听一个做生物医药的朋友说，他们课题组前些年申请一个抗癌新药的临床实验，一开始设计的方案是给实验组停掉已经生效的免费常规药，只吃他们的新药，这样能更快拿到对比数据，发更好的论文。
结果伦理审查卡了他们八个月，打回来改了三次，一开始全组人都骂审查委员会没事找事，阻碍科研进度。最后改出来的方案是常规药加新药联合测试，既拿到了有效的实验数据，也没断了病人的活路。
你看，伦理审查从来不是拦着科研进步，是拦着科研者为了名利瞎搞。它不是给技术套枷锁，是给技术握在谁手里，往哪个方向走，划一条不能碰的线。
不过话说回来，现在的规则确实太滞后了。技术一年一个样，大模型出来没两年，生成式AI已经遍地都是，基因编辑技术成本降到几千块就能做一次，很多小作坊偷偷就能搞，伦理规则还停留在十年前。
很多地方现在还是老一套：论文写完了，投稿之前补个伦理审查证明就行。这哪儿叫审查，这叫补票。
真正该做的，是把伦理审查放在立项的第一个环节，从一开始就说清楚，什么能做，什么不能做，碰了红线直接给你掐了，别等做出来了，出事了，再收拾烂摊子。
技术越强大，笼子就得扎的越紧。你手里握着能改变千万人命运的技术，就得接受比以前更严格的约束，不能说我搞创新我就可以为所欲为，把风险全扔给全社会买单。
我不反对技术进步，我也盼着新技术能治好绝症，能让普通人的日子过的更好。但我讨厌那种，为了一点名利，就拿着新技术当幌子，不管普通人死活的做法。
技术本来是用来给人开路的，不是用来给人挖坑的。多在动手之前聊两句伦理，总比出了事再擦屁股强，对吧？
现在的技术伦理讨论，大多是事后诸葛亮
去年我混过一个线上的科研闭门会，参会的都是做AI和生物科技的年轻创业者，一半时间在聊怎么找流量拿融资，剩下一半在聊怎么绕开规则搞数据。 有人提了一句数据隐私和伦理，当场被人笑：“都什么时候了，讲这个能拿到投资吗？” 挺扎心的。 现在不管是顶刊发论文，还是企业拿项目，都要求加伦理相关内容了对吧？但十有八九都是走流程。绝大多数伦理声明，不过是一张贴在论文末尾的免责贴纸。 没人真去较真，你立项的时候有没有想过后果？你用的数据是不是来路干净？你做出来的东西会不会伤到普通人？国际技术伦理研讨会线下辩论现场照片
之前贺建奎那事儿出来之后，全行业都在骂，都在说要加强伦理审查，结果呢？去年还有媒体爆出来，国内不止一个地下诊所偷偷做基因编辑胎儿，收费上百万，有钱人偷偷去做，就为了生个高智商高颜值的孩子。
这个时候，那些喊着技术伦理的人去哪了？
哦，都在写论文骂贺建奎，没人管底下这些灰色生意。说白了，现在的技术伦理讨论，永远都是出了天大的事，才凑过来开个会骂两句，定几条不痛不痒的规则，然后该干嘛干嘛。
等下一个更大的雷爆出来，再重复一遍流程。
别拿技术中性当推卸责任的挡箭牌
搞技术的人最爱说的一句话就是：技术本身是中性的，错的都是使用技术的人。 这话骗骗外行还行，骗不了内行人。 你开发一键深度换脸工具，默认开放无限制生成任何人人脸视频的功能，连个水印都不加，你跟我说技术中性？ 你开发人脸识别系统，专门卖给房产商用来区分访客是不是刚需购房者，再给销售推不同的报价，你跟我说技术中性？AI深度换脸技术伦理风险科普宣传海报
前几年哈佛大学那个研究，还记得吗？团队用AI训练了一个模型，说看人脸就能判断一个人有没有犯罪倾向，准确率快九成。发在了顶刊上，一堆人跟风吹技术突破。
拆穿了很可笑：训练用的数据集里，百分之七十六的“犯罪样本”都是非裔和拉美裔低收入人群，模型学的根本不是“犯罪特征”，学的是社会已经存在的偏见，最后还把这个偏见包装成了算法给出的“客观结论”。没有什么纯中性的技术，从你选课题那一步开始，就已经做了伦理选择。
你选择做什么，不做什么，选择服务谁，损害谁的利益，每一步都带着你的立场。拿技术中性当挡箭牌，不过是不想为自己做出来的东西负责罢了。
说实话，现在很多前沿技术，能量已经大到能改变普通人的命运了，哪还有什么中性可言。CRISPR能改人类基因，大模型能操纵舆论，AI能精准杀熟，每一个技术出来，都会重新分一次蛋糕，有人赚的盆满钵满，有人连隐私都剩不下。
这个时候跟我说技术中性？不就是说，反正赚好处的是我，背锅的是社会，跟我没关系？
技术伦理不该只停在论文里，要变成扎紧的笼子
技术伦理不该只停在论文里，要变成扎紧的笼子
现在很多技术伦理讨论，都是学术界圈子里自说自话，开个会，出个宣言，发几篇论文，就等于完事了。根本落不到科研和产业的实处。
我之前听一个做生物医药的朋友说，他们课题组前些年申请一个抗癌新药的临床实验，一开始设计的方案是给实验组停掉已经生效的免费常规药，只吃他们的新药，这样能更快拿到对比数据，发更好的论文。
结果伦理审查卡了他们八个月，打回来改了三次，一开始全组人都骂审查委员会没事找事，阻碍科研进度。最后改出来的方案是常规药加新药联合测试，既拿到了有效的实验数据，也没断了病人的活路。
你看，伦理审查从来不是拦着科研进步，是拦着科研者为了名利瞎搞。它不是给技术套枷锁，是给技术握在谁手里，往哪个方向走，划一条不能碰的线。
不过话说回来，现在的规则确实太滞后了。技术一年一个样，大模型出来没两年，生成式AI已经遍地都是，基因编辑技术成本降到几千块就能做一次，很多小作坊偷偷就能搞，伦理规则还停留在十年前。
很多地方现在还是老一套：论文写完了，投稿之前补个伦理审查证明就行。这哪儿叫审查，这叫补票。
真正该做的，是把伦理审查放在立项的第一个环节，从一开始就说清楚，什么能做，什么不能做，碰了红线直接给你掐了，别等做出来了，出事了，再收拾烂摊子。
技术越强大，笼子就得扎的越紧。你手里握着能改变千万人命运的技术，就得接受比以前更严格的约束，不能说我搞创新我就可以为所欲为，把风险全扔给全社会买单。
我不反对技术进步，我也盼着新技术能治好绝症，能让普通人的日子过的更好。但我讨厌那种，为了一点名利，就拿着新技术当幌子，不管普通人死活的做法。
技术本来是用来给人开路的，不是用来给人挖坑的。多在动手之前聊两句伦理，总比出了事再擦屁股强，对吧？