AI医疗在医学影像判读中，解决深度学习无法解释因果关系难题的关键，在于通过人为的网络结构设计来匹配医学问题的逻辑，而非依赖机器学习本身发掘因果性。目前，深度网络和深度学习在挖掘因果性方面是弱项，因此可解释性本质上考验的是人类如何理解医学问题，并据此设计出符合人类认知的工作流程。
可解释性的核心挑战
在医学影像AI领域，可解释性要求工作流程与人类对医学问题的认知一致，或能被人类理解。然而，由于完成目标任务的途径有无穷多条，并非所有途径都符合人类认知模式。当前阶段寻求可解释性，实质上是要求看到因果关系，但深度网络在挖掘因果性上是弱项。即便网络构造出看似符合人类认知的逻辑链路，也更多是人为网络结构设计的结果，而非机器学习本身发掘了因果性。
技术路线的局限
AI发展形成了两大类技术路线：基于模型的运算能力（如知识图谱，可解释）和基于神经网络模型的训练（如深度学习，工作原理尚未得到严格数学定义，不具备可解释性）。在医学影像领域，即使网络有所发现，也应是相关性而非因果性，还需人类进一步验证。这意味着，在人类对相应医学问题没有足够了解的前提下，通过网络训练发现一个以前未知的逻辑链条是极罕见的。
常见问题
为什么深度学习在医学影像中难以解释因果关系？
深度网络和深度学习在挖掘因果性方面是个弱项，其工作原理尚未得到严格数学定义。目前的可解释性更多依赖人类对网络结构的设计，使其与已知的医学认知匹配，而非网络自发发掘因果链条。
医学影像AI的可解释性要求是什么？
要求工作流程和人类对医学问题的认知一致，或者其工作流程可以被人类所理解。这本质上是追求人类对网络结构设计如何与医学问题自身的逻辑匹配。
未来AI医疗在可解释性上可能如何发展？
在可见的将来，人类不接受AI医疗的涌现，监管机构对可解释性有很高要求。行业将继续依赖人为的网络结构设计来匹配医学逻辑，而非期待网络自主发掘因果性。