从黑盒到可解释，AI医疗对认知一致性的追求经历了从性能优先到监管驱动、再到回归医学逻辑本身的关键转折。早期医学影像AI以性能竞赛为主，可解释性仅是学术话题；而随着监管机构对AI医疗提出明确的可解释性要求，以及深度网络在因果性挖掘上的弱点被行业正视，认知一致性逐渐从边缘议题上升为AI医疗落地的核心前提。

第一阶段：性能竞赛时代，可解释性仅是学术话题

AI医疗早期延续了深度学习的主流路线。AI发展出两大类技术路线：一类是基于模型的运算能力（如深蓝），其工作原理有严格的数学定义，因此是可解释的；另一类是基于神经网络模型的训练（如阿法狗），通过训练得到参数调节好的网络，但内部如何相互影响并不清楚，工作原理尚未得到严格数学定义，因而不具有可解释性。

在性能竞赛阶段，医学影像AI主要比拼识别准确率等指标，可解释性更多停留在学术讨论层面，并未成为产品落地的硬性门槛。

第二阶段：监管介入，可解释性成为硬性要求

转折的关键在于监管方的态度。在可见的将来里，人类不接受AI医疗的涌现——无论是美国FDA还是中国NMPA，对AI医疗的可解释性都提出了很高要求。这意味着，AI医疗产品不能像通用大模型那样“涌现”出能力即可上线，而必须能让监管方和临床方理解其工作流程。

第三阶段：认知一致性成为核心追求

监管要求背后，是对“认知一致性”的深层追求。针对医学影像AI，所谓的可解释性，就是要求其工作流程和人类对医学问题的认知一致，或者其工作流程可以被人类所理解。

但这里存在一个根本性矛盾：完成目标任务的途径本质上有无穷多条，不可能要求任意一条途径都满足人类理解模式。更关键的是，医学领域的可解释性实际上要求看到因果关系，而深度网络和深度学习在挖掘因果性方面是弱项。即使网络构造出一条看起来符合人类认知的逻辑链路，更大可能也是通过人为的网络结构设计获得的，而非机器学习本身发掘了因果性。

这带来一个深刻反思：现阶段寻求可解释性，实质上是在追求人类对网络结构设计如何与医学问题自身逻辑匹配——这考验的是人类自己如何理解医学问题，而非期待AI发现人类未知的逻辑链条。

常见问题

为什么AI医疗不能像ChatGPT那样“涌现”能力即可上线？

监管方对AI医疗的可解释性有很高要求。ChatGPT这类通用AI即使内部机理不明，人类也接受了其“涌现”能力；但医疗场景直接关系生命健康，FDA和NMPA都要求AI医疗的工作流程可被理解，不能接受无法解释的“黑盒”输出。

深度网络为什么难以满足医学可解释性？

医学可解释性要求看到因果关系，但深度学习在挖掘因果性方面是弱项。网络构造出的符合人类认知的逻辑链路，更多来自人为的网络结构设计，而非机器学习自发发现的因果规律。

追求可解释性是否意味着AI医疗无法发现新知识？

现阶段的可解释性追求更像一种循环论证：从人类对问题的理解出发设计网络，构造与已知认知匹配的工作流程。即使AI有所发现，也更多是相关性而非因果性，仍需要人类进一步验证。