别让创新脱缰：聊聊科研领域的负责任创新
前阵子去杭州参加一个青年科创沙龙，坐我旁边的一个AI创业者吐槽了快一小时。说现在搞项目，动不动就要加负责任创新评审，本来六个月能上线的东西，硬生生拖了快一年，纯粹是给创新添乱。我当时喝着茶没接话，心里只想说，这锅，负责任创新不背。
科研项目伦理评审会议现场
说实话，很多人对负责任创新的理解就错了。它不是为了卡创新的脖子，是为了让创新走得更稳。这个概念最早起源于欧盟的科研框架计划，核心就是四个词：预测、反思、包容、回应。说白了，就是你搞创新之前，先想想这个东西出来之后，会对社会、对环境、对普通人产生什么影响，别等捅了娄子再回头擦屁股。
现在咱们国家的重点研发计划里，负责任创新已经是硬性要求了。不是只有生物、AI这些敏感领域要，哪怕是做材料、做工程，都要评估社会影响。之前我听工信部的一个朋友说，有个做动力电池回收的项目，立项的时候因为没考虑到回收过程的重金属污染防控，直接被打回去改了，改完才通过。你说这是卡脖子吗？这明明是帮项目避了个会让它直接死在半路上的大坑啊。
大模型AI训练隐私脱敏流程演示图
不过话说回来，这几年变化真的挺大的。去年中科院科技战略研究院发的一份调研显示，国内82%的国家级重点研发项目，已经把负责任创新评估提前到了立项申报阶段，从一开始就把规则说清楚，把坑找出来。我有个做合成生物学的朋友，他们团队现在做改造微生物产青蒿素的项目，立项的时候就拉了环保专家、周边种植户、甚至中药经销商一起开评审会。人家种植户提出来，你这个改造过的微生物，万一飘到我的有机青蒿地里，我的青蒿就不是有机的了，卖不出去你赔吗？
换作以前，说不定专家就说这是外行话，不用管。结果他们真听进去了，花了三个月给微生物加了一个“环境自杀开关”，只要离开实验室的特定培养环境，四个小时就会全部失活，根本不可能存活扩散。后来项目落地，不仅没有任何争议，还拿到了绿色农业认证，订单拿到手软。你看，提前把责任想到，根本不会耽误创新，反而能让创新少走弯路，更贴合市场的需求。
负责任创新不是专家自嗨，得把普通人拉上船
我见过不少项目，负责任创新评估就是找几个专家开个会，签字盖章完事。说白了就是自嗨。负责任创新最核心的一点，就是利益相关方参与。你做的创新要影响谁，就得让谁说话。
之前转基因舆论闹得那么凶，很大一部分原因就是早期只有专家说安全，完全没给普通消费者说话的机会，越捂，大家越不信，最后整个产业化都被拖慢了。现在好多了，不管是新农业技术还是新AI产品，推广之前都会找不同群体做调研，开听证会。
前阵子深圳出自动驾驶管理条例，我特意看了征求意见过程，他们不仅找了车企、算法工程师，还专门找了二十多个天天开网约车的司机，十个住在主干道边上的居民，还有几个经常过马路的退休老人提意见。老人提出来，我眼神不好，自动驾驶能不能老远就提醒我它过来了？司机提出来，自动驾驶让我打瞌睡，出了事故算我的还是算平台的？这些问题，你坐在实验室里根本想不出来。最后出来的条例，把这些问题都解决了，大家的接受度自然就高。
当然，也有很多地方做得不好。有的项目找公众参与，就是找几个托，举手赞成拍个照，回头该怎么样还是怎么样。这种假把式，还不如不做。负责任创新是真的要听不同的声音，哪怕是骂你的，反对你的，你也得好好听。人家说的不对你可以解释，说的对了你就得改。
我之前认识一个做AI辅助诊断的团队，本来想把AI诊断的结果直接发给病人，节省医生的时间。后来找了十几个癌症患者开座谈会，有个阿姨说，我本来心态就不好，你机器给我发个“疑似肺癌”，我还没找医生看呢，我先吓得半要死，就算最后查出来没事，我这心里也落下病了。我宁可等医生给我讲，也不要机器先给我判“死刑”。
团队听完立马改了方案，所有AI出的结果，全部先经过医生审核，再由医生告诉病人，AI只给医生做辅助，不直接对接病人。既提高了医生的诊断效率，也照顾了病人的情绪，这不就是双赢吗？
创新的本质，从来都是让人过得更好。不是为了发顶刊，不是为了融大资，不是为了拿奖项。负责任创新不是绑住创新的绳子，是保护创新的安全带。你开车上高速，系安全带不是为了让你开慢，是让你敢踩油门往远了跑，真遇到点意外，也不会车毁人亡。
现在咱们国家的科技创新，越来越多领域开始领跑了，没有前人的脚印可以踩，那可不就得自己把安全带系好嘛。对吧？
很多人都搞错了，负责任创新不是给创新戴紧箍咒
从基因编辑婴儿事件，到今年年初爆出来的大模型偷爬隐私数据，哪一次出事，不是创新甩开了约束往前冲，最后把整个行业都拖下水？科研项目伦理评审会议现场
说实话，很多人对负责任创新的理解就错了。它不是为了卡创新的脖子，是为了让创新走得更稳。这个概念最早起源于欧盟的科研框架计划，核心就是四个词：预测、反思、包容、回应。说白了，就是你搞创新之前，先想想这个东西出来之后，会对社会、对环境、对普通人产生什么影响，别等捅了娄子再回头擦屁股。
现在咱们国家的重点研发计划里，负责任创新已经是硬性要求了。不是只有生物、AI这些敏感领域要，哪怕是做材料、做工程，都要评估社会影响。之前我听工信部的一个朋友说，有个做动力电池回收的项目，立项的时候因为没考虑到回收过程的重金属污染防控，直接被打回去改了，改完才通过。你说这是卡脖子吗？这明明是帮项目避了个会让它直接死在半路上的大坑啊。
负责任创新，要从成果验收往前挪到立项那一刻
我接触过不少科研团队，现在还抱着一个老思路：先把成果做出来，把论文发了，再补一份负责任创新的评估报告，走个过场就行。这种自欺欺人的操作，早晚要出事。 前几年有个国内985的人脸识别团队，早早就在大学校园里推广刷脸进门、刷脸打饭，所有学生的人脸数据都存在实验室的一台公共服务器里，没做任何加密脱敏。后来实验室更新设备，那台旧服务器当二手卖了，整整十几万条学生人脸数据就这么流到了黑产手里，最后闹上热搜，团队负责人被通报批评，项目直接下马，本来拿到的优青项目也被撤了。可惜吗？太可惜了。本来是个很有前景的方向，就因为一开始没把责任放到第一位，全毁了。大模型AI训练隐私脱敏流程演示图
不过话说回来，这几年变化真的挺大的。去年中科院科技战略研究院发的一份调研显示，国内82%的国家级重点研发项目，已经把负责任创新评估提前到了立项申报阶段，从一开始就把规则说清楚，把坑找出来。我有个做合成生物学的朋友，他们团队现在做改造微生物产青蒿素的项目，立项的时候就拉了环保专家、周边种植户、甚至中药经销商一起开评审会。人家种植户提出来，你这个改造过的微生物，万一飘到我的有机青蒿地里，我的青蒿就不是有机的了，卖不出去你赔吗？
换作以前，说不定专家就说这是外行话，不用管。结果他们真听进去了，花了三个月给微生物加了一个“环境自杀开关”，只要离开实验室的特定培养环境，四个小时就会全部失活，根本不可能存活扩散。后来项目落地，不仅没有任何争议，还拿到了绿色农业认证，订单拿到手软。你看，提前把责任想到，根本不会耽误创新，反而能让创新少走弯路，更贴合市场的需求。
负责任创新不是专家自嗨，得把普通人拉上船
负责任创新不是专家自嗨，得把普通人拉上船
我见过不少项目，负责任创新评估就是找几个专家开个会，签字盖章完事。说白了就是自嗨。负责任创新最核心的一点，就是利益相关方参与。你做的创新要影响谁，就得让谁说话。
之前转基因舆论闹得那么凶，很大一部分原因就是早期只有专家说安全，完全没给普通消费者说话的机会，越捂，大家越不信，最后整个产业化都被拖慢了。现在好多了，不管是新农业技术还是新AI产品，推广之前都会找不同群体做调研，开听证会。
前阵子深圳出自动驾驶管理条例，我特意看了征求意见过程，他们不仅找了车企、算法工程师，还专门找了二十多个天天开网约车的司机，十个住在主干道边上的居民，还有几个经常过马路的退休老人提意见。老人提出来，我眼神不好，自动驾驶能不能老远就提醒我它过来了？司机提出来，自动驾驶让我打瞌睡，出了事故算我的还是算平台的？这些问题，你坐在实验室里根本想不出来。最后出来的条例，把这些问题都解决了，大家的接受度自然就高。
当然，也有很多地方做得不好。有的项目找公众参与，就是找几个托，举手赞成拍个照，回头该怎么样还是怎么样。这种假把式，还不如不做。负责任创新是真的要听不同的声音，哪怕是骂你的，反对你的，你也得好好听。人家说的不对你可以解释，说的对了你就得改。
我之前认识一个做AI辅助诊断的团队，本来想把AI诊断的结果直接发给病人，节省医生的时间。后来找了十几个癌症患者开座谈会，有个阿姨说，我本来心态就不好，你机器给我发个“疑似肺癌”，我还没找医生看呢，我先吓得半要死，就算最后查出来没事，我这心里也落下病了。我宁可等医生给我讲，也不要机器先给我判“死刑”。
团队听完立马改了方案，所有AI出的结果，全部先经过医生审核，再由医生告诉病人，AI只给医生做辅助，不直接对接病人。既提高了医生的诊断效率，也照顾了病人的情绪，这不就是双赢吗？
创新的本质，从来都是让人过得更好。不是为了发顶刊，不是为了融大资，不是为了拿奖项。负责任创新不是绑住创新的绳子，是保护创新的安全带。你开车上高速，系安全带不是为了让你开慢，是让你敢踩油门往远了跑，真遇到点意外，也不会车毁人亡。
现在咱们国家的科技创新，越来越多领域开始领跑了，没有前人的脚印可以踩，那可不就得自己把安全带系好嘛。对吧？