智能决策支持：科研圈最近搞出的新东西，到底靠不靠谱？我聊了点实在的
前两天跟一个做医疗器械的朋友吃饭，他上来就吐槽：“我们那个智能决策支持模块，医生用了三天就给关了。”为啥？弹窗太多，建议太水。这玩意儿不是号称能辅助诊断吗？怎么成了添乱？
说实话，这事儿不新鲜。智能决策支持这词儿，从专家系统到机器学习，再到现在的生成式AI，换了好几茬马甲。但最近有点不一样。科研圈真在啃一些硬骨头，不是光发论文那种。
先别急着下结论。我最近翻了些论文，也跟几个一线的人聊了聊。发现事情在起变化。有些研究开始解决真问题，而不是刷榜。
一、智能决策支持不是“算命”，关键得把因果关系搞清楚
你让模型预测下雨，它看云图就行。但你要它决定“该不该给这个病人用某种药”，光看相关性就完蛋了。比如某个指标高的人死亡率高，不代表你把指标降下来人就能活。这叫混淆。
所以最近两年，因果推断在决策支持里火得不行。我看了几篇预印本，有团队在搞因果表征学习，把观测数据里的混杂因子剥离出来。听着玄乎，其实说白了就是让模型学会问“如果”。比如“如果这个病人不抽烟，他的风险会降多少？”
不过话说回来，理论漂亮，落地又是另一回事。数据里的因果结构哪那么好找？很多时候专家自己也说不清。你问医生为什么开这个药，他说“经验”。经验怎么编码？头疼。
科研实验室智能决策支持系统因果图数据大屏
还有大模型。现在很多决策支持系统背后塞了个LLM，能跟你对话，能读病历。但你知道大模型最大的毛病是啥？一本正经地胡说八道。科研圈管这叫幻觉。你问它某个罕见病的用药，它能给你编出一篇不存在的指南。
二、大模型加持之后，科研圈在偷偷解决“幻觉”这个老大难
我最近看到一个思路挺有意思：检索增强生成加知识图谱。简单说，不让模型瞎编，先让它去查权威资料。有团队把临床指南和电子病历结构化之后喂进去，效果确实好不少。但速度慢啊，急诊等不起。一个胸痛病人进来，你让系统查十分钟？医生早自己判断了。
另一个方向是不确定性量化。你听这词儿可能头大，其实特简单：模型得告诉你它有多确定。比如“这个建议我有八成把握”和“我瞎猜的”，能一样吗？贝叶斯深度学习在这块有进展，但计算成本还是高。不过最近有论文在优化推理速度，我看有点苗头。
再说个医疗之外的。联邦学习在决策支持里也开始用了。几家医院联合训练模型，数据不出院。听起来很美好对吧？但通信开销大，而且各家数据分布不一样，模型容易偏。有团队在搞个性化联邦学习，给每家医院微调一下。这思路我挺喜欢。
制造业那边，数字孪生加强化学习做生产调度。听着很酷对吧？但我去参观的时候，工程师偷偷跟我说，模型建议换模具，但老师傅一看就知道那批材料有问题。模型不知道啊，它只认数据。所以别迷信算法。智能决策支持，重点在支持，不在替代。
制造工厂数字孪生智能决策支持系统生产调度控制室大屏
三、落地的时候，坑比想象的多——我听了几个真实吐槽
第一个坑，数据质量。医院里电子病历填得乱七八糟，你让模型怎么学？有个三甲医院信息科的人跟我抱怨，他们清洗数据花了八个月，模型上线两周就废了，因为业务流程改了。你说这找谁说理去？
第二个坑，人机信任。银行风控那边更典型。模型说拒贷，客户经理不敢用，因为解释不了。你总不能跟客户说“AI觉得你不行”吧？所以可解释AI不是学术玩具，是刚需。我见过一个系统，能给出反事实解释：“如果您的收入再高两万，贷款就能批。”这比单纯说“拒贷”有人情味多了。
第三个坑，组织惯性。科研圈搞出来的决策支持系统，往往假设决策者是理性的。但现实中，领导拍脑袋、部门甩锅、KPI打架，这些模型管不了。你给一个销售部门推荐最优定价，但销售总监的KPI是冲量，他根本不看利润。模型再准也白搭。
银行智能决策支持系统风控审批界面客户经理操作场景
不过也有好消息。欧盟AI法案之类的监管在推着行业往可解释、可审计的方向走。科研圈也在配合。比如最近有研究把因果推断和可解释性结合起来，不光告诉你结果，还告诉你哪个因素最关键。这比特征重要性靠谱多了。
四、普通人怎么判断一个智能决策支持系统是不是真有用？
四、普通人怎么判断一个智能决策支持系统是不是真有用？
别听销售吹。看几个硬指标。第一，它能不能给出反事实解释？第二，有没有不确定性输出？第三，允不允许人机协同调整？第四，更新频率咋样？半年不更新的模型，基本可以扔了。
还有个小技巧：问它“如果我把某个输入改一下，结果会怎么变”。如果它支支吾吾或者给个离谱答案，那八成是个黑箱套壳。真的，我试过好几个号称智能决策的产品，一问反事实就露馅。
对了，还有一点。看它敢不敢说“我不知道”。好的决策支持系统会告诉你“这个情况我没见过，建议人工判断”。那些啥都敢给建议的，反而要小心。
行了，就聊这么多。你要是在用这类系统，欢迎吐槽。反正我觉得，智能决策支持这玩意儿，离真“智能”还差得远，但方向对了。至少科研圈现在不光是刷榜，开始琢磨怎么让模型说人话、办人事了。