AI医疗的可解释性已成为全球监管的核心要求，但深度学习模型在挖掘因果关系上是天然弱项。政策正倒逼行业从“黑箱”模式转向更符合人类认知逻辑的技术路径，核心在于通过人为的网络结构设计，使AI工作流程与医学问题自身的因果链条相匹配，而非依赖模型自发“涌现”出因果关系。
监管框架为何强调可解释性
无论是FDA还是NMPA，对AI医疗的可解释性都提出了很高要求。针对医学影像AI问题，所谓的可解释性，本质是要求其工作流程与人类对医学问题的认知一致，或者其工作流程可以被人类所理解。这背后是监管对“因果性”的执着——目前深度网络和深度学习在挖掘因果性方面其实是弱项，即使网络真的构造了一条看起来符合人类认知的逻辑链路，更大可能上也是通过人为的网络结构设计获得的，而不是机器学习本身发掘了这个因果性。
深度学习的因果推断缺陷
AI技术分为两大类：基于模型的运算能力（如深蓝，可解释）和基于神经网络模型的训练（如阿法狗、ChatGPT）。后者是目前的主流，但其工作原理尚未得到严格的数学定义，因而不具有可解释性——就像古代中国工匠知道黑火药的制备方法，但无法解释其中的化学原理。在医学领域，完成目标任务的途径本质上存在无穷多条，不可能要求任意一条途径都满足人类的理解模式。除非找到一条符合人类认知特征的途径，但这不等于说不符合人类认知特征的途径就不可用。
行业应对：从“涌现”到“设计”
在这个阶段寻求可解释性，实质是在追求人类对网络结构设计如何与医学问题自身的逻辑匹配。这本质上还是在考验人类自己如何理解这个医学问题，极少可能出现人类在对相应问题没有足够了解的前提下通过网络训练发现一个以前未知的逻辑链条——就算有所发现，应该也是相关性而非因果性。因此，可解释性像是一个循环论证：从人类对问题的理解出发设计网络，构造一个与人类已知认知匹配的网络工作流程。
常见问题
为什么深度学习模型在因果关系上表现弱？
深度学习基于神经网络训练，其工作原理尚未得到严格的数学定义，内部参数如何相互影响并不清楚。这与基于严格数学定义的可解释系统（如知识图谱）不同，后者工作原理可解释，而深度学习模拟的是人脑运作方式，人脑本身如何运作目前也不十分清楚。
监管是否要求AI医疗完全模仿人类思维？
不是。监管要求的是工作流程可被人类理解，而非必须完全模仿人类思维。图灵曾指出，人类完成一件事可以有不同的方式——就像人可以游泳但不必像鱼一样有尾巴，AI可以实现智能，但不一定必须以人类思维作为模板。
当前技术能实现医学因果推断吗？
当前的可解释性更多依赖人为的网络结构设计，而非机器学习自主发掘因果性。即使网络发现新逻辑链条，大概率是相关性而非因果性，还需要人类进一步验证。这本质上考验的是人类对医学问题本身的理解深度。