聊聊可信AI技术：AI落地的必备入场券

前阵子跟做AI落地的朋友喝酒，他吐了一晚上苦水。说好不容易跟一个地方银行谈成了大模型合作，临签合同甲方突然加了个条款：要求所有AI审批的贷款，必须能溯源、能解释，出了问题要能找到责任方。他盯着合同看了半天，原来自己攒了大半年的大模型，就是个漂亮的黑箱子，输出给不了任何保证。这单，就黄了。

放到整个行业来看，这根本不是个例。AI能力跑的越快，大家对「可信」两个字的焦虑就越重。

为什么可信AI技术突然成了刚需？

早个五六年，AI大多活在互联网业务的边缘。给你推荐个短视频，算一算你喜欢什么商品，错了也就错了，大不了多刷两条，没人会跟这个较真。

现在不一样了。AI往核心业务扎了。银行用AI批贷，医院用AI读片，车企用AI自动驾驶，政府用AI做社保资格审核，哪一件错得起？

更别说大模型流行之后，AI幻觉编瞎话的本事大家都见识过了。编参考文献，编法律条文，甚至编不存在的新闻事件，你不仔细查根本看不出来。前段时间还有律师用ChatGPT写代理词，结果编了好几个不存在的判例，差点被法院处罚。

还有隐私的问题。你用AI聊天机器人说点自己的私事，转头就被拿去训练模型了，转头别的用户问类似问题，AI把你的隐私原封不动吐出来了，这种新闻已经不止一次了对吧？

说白了，原来AI是给人打辅助，现在AI要当主力了。当主力就得靠谱，不靠谱没人敢用。可信AI技术，就是干这个靠谱的活的。

现在可信AI技术到底解决了哪些真问题？

很多人一听「可信AI」，第一反应就是搞安全加密，搞权限管理，其实远不止这些。目前行业里公认的可信AI，核心要解决四个方向的问题，每个都是卡AI落地脖子的真问题。

第一个就是可解释性。刚才说的银行批贷，AI说不给你贷，你凭什么？原来的黑箱模型说不清楚，只给你一个得分，你不服都没办法。可信AI技术就是要把这个过程拆解开，告诉你是因为你去年有一次信用卡逾期，还是你填写的收入达不到要求，每一步都能说清楚，出了问题也能找到错在哪。

第二个就是安全与鲁棒性。现在的大模型太容易被攻击了。说实话我之前看清华团队的一个测试，只需要在问题里加几个无关的特殊符号，就能让GPT把原本完全正确的答案，改成错的。还有更可怕的prompt注入攻击，只要绕几下，就能让AI忘记原来的规则，把后台的机密数据全吐出来。可信AI技术就是要防这些攻击，让AI不管你怎么捣乱，输出都是稳定安全的。

第三个就是隐私保护。训AI需要数据，很多敏感数据比如医疗记录、个人信息，根本不能随便拿出来集中训练。可信AI里的联邦学习、差分隐私这些技术，就能做到「数据可用不可见」，多家机构一起训模型，谁都拿不到对方的原始数据，既用到了数据的价值，又保护了隐私。

第四个就是公平性。很多AI训练出来自带偏见。比如之前国外发现招聘AI就是偏爱男性，因为原来的招聘数据里高管本来就男的多，AI学了之后就认为男性更优秀，女候选人直接刷掉。还有的AI审贷，直接给低收入区域的用户打低分，根本不看个人资质。可信AI就是要把这些藏在模型里的偏见找出来，修正掉，不能让AI干歧视人的事。

不过话说回来，现在很多技术还没到完美能用的程度。我那个朋友说，给千亿参数的大模型做全链路可信保护，推理成本直接涨两三成，很多中小企业根本扛不住。这也是现在行业最大的痛点，技术有了，降本还需要时间。

可信AI技术接下来会走到哪？

去年ChatGPT爆火之后，整个学界工业界的重心都转到大模型可信来了。我翻arxiv，平均每天都有十来篇新的大模型可信相关的论文挂出来，热度比当年训大模型还高。

现在有几个方向挺值得关注的。一个是大模型自解释，不用额外加一个小模型给大模型做解释，就让大模型生成完答案之后自己拆解推理过程，说清楚自己为啥得出这个结论，成本比原来的方法低太多，效果还不错。还有一个是全链路可信，从训练数据标注，到模型训练，再到推理输出，全环节做可信校验，哪里出问题哪里就能定位，不用全流程复盘。

监管也在推这个事。欧盟的AI法案早就把高风险AI的可信要求写进法律了，国内也出了生成式AI的管理要求，明确说了要可追溯、合规。这相当于把可信AI变成了行业准入门槛，你做不出来，你就进不了这个市场。

有人说可信AI就是炒概念骗经费，我真不这么看。你换个角度想，你买车会买一个刹车随时可能失灵的超跑吗？哪怕它跑的再快，外观再帅，你也不敢开上路对吧？AI也是一个道理，能力再强，不可信就进不了核心产业，永远只能在娱乐场景晃悠。

现在AI要产业化，要进千行万业，可信AI就是那个必须拿到的入场券。没有这张票，说什么落地都是空谈。

我前两年去参加可信AI的行业大会，整个会场没多少人，展台也就寥寥几个。今年再去，半层展馆都是做可信AI的，创业公司、大厂、资本都挤进来了。变化快的让人惊讶。

再过个三四年，你再看，凡是能正经落地产业的AI，肯定都标配可信AI那一套。不信，咱们走着瞧。