别拿创新当幌子:我理解的负责任创新,到底是什么
最近刷创投圈新闻,总能看到这样的戏码。项目做砸了,出了安全事故,创始人对着镜头一脸委屈:我们是创新,允许试错嘛。
试错哪有拿普通人的权益当试验品的?合着赚了钱你揣进腰包,出了问题全推给“创新试错”?扯犊子呢。
人工智能研发伦理评审会议现场
真走到出事那一步,砸的不只是一个公司,是整个行业的信任。前几年基因测序乱象,多少公司随便拿用户的样本来做研究,最后把整个行业的口碑都搞坏了,到现在还有人觉得基因检测就是骗钱。这就是没把责任当回事的下场。
生成式人工智能合规备案流程公示图
不过话说回来,我见过太多公司,开个一小时的线上会,拍几张照,对外就宣传自己“践行负责任创新”,转头就把用户数据卖去做精准营销了。这种自欺欺人的把戏,也就骗骗不懂行的投资人罢了。
真的负责任,是要真金白银投进去,是要真的给风险审核放权,不是贴个标签就完事儿。
负责任创新不是专家的事,每个普通人都是参与者
很多人聊起这个话题,都会说,这是监管层、企业家、科学家该考虑的,跟我一个普通打工人有什么关系?
大错特错。你注册APP的时候点同意的用户协议,你拍AI写真传上去的人脸照片,你去医院做AI影像检查用的算法,每一个环节,你都是利益相关方。
去年闹得沸沸扬扬的AI换脸诈骗,很多人骂骗子,有没有人想过,那些做换脸模型的公司,当初放开接口的时候,为什么不做身份核验?为什么不对诈骗场景做拦截?还不是为了冲下载量,赚快钱,故意睁一只眼闭一只眼。
这就是典型的不负责任的创新。
也有做得好的例子。我之前看一个农业科技团队的报道,他们研发抗除草剂的转基因大豆,不是闷头做完就直接卖给农民。提前三年就跑产区,开了二十多场农民座谈会,把这个种子的好处、可能的风险讲得明明白白,还出钱帮农民建了隔离种植带,避免基因漂移影响周边的普通大豆田。最后项目落地,农民都愿意种,没人闹。
你看,负责任创新根本不耽误你把事做成,反而能帮你走得更远。
有人说,这么搞会不会抬高创新的成本?会不会减慢创新的速度?
短期看,确实会多花一点时间多花一点钱。但是你想想,要是因为一次风险爆发,整个项目被叫停,整个行业被监管收紧,那个成本才叫高。
创新本来就是为了让人活得更好,不是吗?如果创新把人当成了垫脚石、当成了耗材,那这种创新,不要也罢。
现在圈子里总把创新吹得天花乱坠,好像只要沾了创新两个字,谁都不能说半个不字。我倒是觉得,越说创新,越要把“责任”两个字攥紧了。
路还长着呢。别急着跑,先看清楚脚下的路对不对。
负责任创新不是道德绑架,是创新的生命线
很多人第一次听到负责任创新,第一反应是,这又是专家搞出来的虚头巴脑的概念吧?是用来捆住创新手脚的枷锁吧? 真不是。 负责任创新的核心逻辑其实很简单:你做创新,不能只想着能赚多少钱,得提前想清楚,会不会伤害谁?有没有把所有利益相关方的声音都听进去?出了风险你兜不兜得住? 去年中科院科技战略研究院发过一份国内科创行业的调研,数据挺扎心的:人工智能领域超过六成的初创项目,没有设置独立的伦理评估环节,所谓的风险审核,就是拿一张表打勾,走完流程拉倒。 我前阵子跟一个做医疗AI的老朋友吃饭,他吐了一晚上苦水。老板要抢上市窗口,催着他们把辅助肺癌诊断的模型推上临床。训练模型用了三万多份患者的胸片病历,大半都没拿到用户的知情授权,连匿名化处理都做得马马虎虎。 他跟老板提风险,老板说他格局不够,耽误创新进度。 说实话,这种创新,不要也罢。
人工智能研发伦理评审会议现场
真走到出事那一步,砸的不只是一个公司,是整个行业的信任。前几年基因测序乱象,多少公司随便拿用户的样本来做研究,最后把整个行业的口碑都搞坏了,到现在还有人觉得基因检测就是骗钱。这就是没把责任当回事的下场。
负责任创新不是嘴上口号,现在已经落到监管和实操里了
别觉得负责任创新只是学界说说而已。你回头看看这两年国内出台的科创相关监管文件,核心精神全是这个。 我们国家的《生成式人工智能服务管理暂行办法》,第一条就要求提供者落实安全责任底线,这不就是要求你做负责任创新吗? 头部企业现在其实走得挺快的。我了解到,国内几个做大模型的头部公司,都设置了独立于业务线的伦理委员会,对风险项目有一票否决权。哪怕这个项目能赚快钱,只要过不了伦理审,直接砍掉。 医疗领域更严,现在做体细胞基因编辑临床,一个项目要过院所、省级、国家级三道伦理审核,每一轮都要找无关的第三方专家来挑刺,就是为了避免冒进。 当然,混水摸鱼的也不少。
生成式人工智能合规备案流程公示图
不过话说回来,我见过太多公司,开个一小时的线上会,拍几张照,对外就宣传自己“践行负责任创新”,转头就把用户数据卖去做精准营销了。这种自欺欺人的把戏,也就骗骗不懂行的投资人罢了。
真的负责任,是要真金白银投进去,是要真的给风险审核放权,不是贴个标签就完事儿。
负责任创新不是专家的事,每个普通人都是参与者
负责任创新不是专家的事,每个普通人都是参与者
很多人聊起这个话题,都会说,这是监管层、企业家、科学家该考虑的,跟我一个普通打工人有什么关系?
大错特错。你注册APP的时候点同意的用户协议,你拍AI写真传上去的人脸照片,你去医院做AI影像检查用的算法,每一个环节,你都是利益相关方。
去年闹得沸沸扬扬的AI换脸诈骗,很多人骂骗子,有没有人想过,那些做换脸模型的公司,当初放开接口的时候,为什么不做身份核验?为什么不对诈骗场景做拦截?还不是为了冲下载量,赚快钱,故意睁一只眼闭一只眼。
这就是典型的不负责任的创新。
也有做得好的例子。我之前看一个农业科技团队的报道,他们研发抗除草剂的转基因大豆,不是闷头做完就直接卖给农民。提前三年就跑产区,开了二十多场农民座谈会,把这个种子的好处、可能的风险讲得明明白白,还出钱帮农民建了隔离种植带,避免基因漂移影响周边的普通大豆田。最后项目落地,农民都愿意种,没人闹。
你看,负责任创新根本不耽误你把事做成,反而能帮你走得更远。
有人说,这么搞会不会抬高创新的成本?会不会减慢创新的速度?
短期看,确实会多花一点时间多花一点钱。但是你想想,要是因为一次风险爆发,整个项目被叫停,整个行业被监管收紧,那个成本才叫高。
创新本来就是为了让人活得更好,不是吗?如果创新把人当成了垫脚石、当成了耗材,那这种创新,不要也罢。
现在圈子里总把创新吹得天花乱坠,好像只要沾了创新两个字,谁都不能说半个不字。我倒是觉得,越说创新,越要把“责任”两个字攥紧了。
路还长着呢。别急着跑,先看清楚脚下的路对不对。