深度网络在因果性挖掘上是弱项，AI医疗突破可解释性壁垒的核心路径并非依赖网络自我发现因果逻辑，而是通过人为的网络结构设计，让工作流程与人类对医学问题的已知认知相匹配。这本质上是考验人类对医学问题的理解深度，而非让机器自动发现未知的因果链条。
可解释性的本质困境
AI医疗面临的根本矛盾在于：当前主流的深度学习（基于神经网络模型的训练）工作原理尚未得到严格的数学定义，因而不具有可解释性。而监管机构（如FDA、NMPA）对AI医疗的可解释性提出了很高要求。可解释性要求工作流程与人类认知一致，但完成任务的途径有无穷多条，不可能每条都符合人类理解模式。深度网络在挖掘因果性方面是弱项，即使网络表现出符合人类认知的逻辑链路，也更多是人为设计的结果，而非机器学习本身发掘了因果性。
当前技术路线的突破方向
- 结构因果模型（SCM）：这类基于模型的运算能力有严格的数学定义，是可解释的，但其应用依赖人类对医学问题因果关系的先验知识，无法自动发现未知因果链条。
- 注意力机制：通过突出网络关注的图像区域，在肺结节良恶性判断中可提供“网络看了哪里”的局部解释，但无法回答“为什么这样看”的因果逻辑，仍停留在相关性层面。
- 反事实推理：尝试模拟“如果病变特征不同会怎样”，理论上更接近临床推理，但实现路径仍依赖人为设计的网络结构，尚未突破“从已知认知出发”的循环。
常见问题
为什么深度网络在医学影像中难以发现新的因果逻辑？
因为当前阶段寻求可解释性，实质上是在追求人类对网络结构设计如何与医学问题自身的逻辑匹配。即使网络有所发现，也应是相关性而非因果性，还需要人类进一步验证。极少可能出现人类在未充分了解医学问题前提下，通过网络训练发现一个未知的逻辑链条。
符合人类认知的途径是唯一可用的吗？
不是。完成目标任务的途径本质上有无穷多条，不符合人类认知特征的途径不一定不可用。但监管要求工作流程可被理解，因此当前主流方向是人为设计符合人类认知特征的网络结构。
未来AI医疗可解释性的突破点在哪里？
核心在于人类对医学问题本身的理解深化。只有当人类对医学问题的因果逻辑有足够清晰的认知，才能设计出与之匹配的网络结构。这更像一个循环论证：从人类对问题的理解出发设计网络，构造与已知认知匹配的工作流程。