AI医疗正处在一个关键拐点：技术路线从深蓝式的可解释规则系统，转向阿法狗式的神经网络训练，后者已成为主流，但可解释性缺失是其在医疗领域落地必须直面的核心挑战。
两条技术路线的分野
AI发展形成了两大类技术路线。第一类是基于模型的运算能力，依靠计算机强大的运算能力处理符号化知识，其代表是深蓝，这类系统的工作原理有严格的数学定义，是可解释的。第二类是基于神经网络模型的训练，通过确定人工神经模型并反复训练，得到一个参数被调节好的网络，其代表是阿法狗，这类系统目前尚不具可解释性——人们只知道其基本逻辑，但内部如何相互影响并不清楚。
训练法目前是主流。这类似于古代中国工匠知道黑火药的制备方法，却无法解释其中的化学原理。
医疗场景的特殊性：可解释性的硬约束
医疗领域对AI的可解释性有着特殊且严格的要求。无论是FDA还是NMPA，对AI医疗的可解释性都提出了很高的要求。所谓可解释性，就是要求AI的工作流程和人类对医学问题的认知一致，或者其工作流程可以被人类理解。
然而，深度网络在挖掘因果性方面是弱项。完成目标任务的途径本质上有无穷多条，不可能要求任意一条途径都符合人类的理解模式。即便网络构造出了一条看起来符合人类认知的逻辑链路，更大可能也是通过人为的网络结构设计获得的，而非机器学习本身发掘了因果性。因此，这个阶段寻求可解释性，实质上是在考验人类自己如何理解医学问题。
常见问题
深蓝式路线为什么没有成为AI医疗的主流？
深蓝式系统虽然可解释，但依赖人类预先将医学知识符号化、规则化，面对复杂多变的临床场景扩展性受限。而阿法狗式训练法能从海量数据中自主学习特征，成为当前主流，代价是其内部决策过程难以被人类完全理解。
AI医疗的“可解释性”具体指什么？
针对医学影像AI，可解释性说白了就是要求其工作流程和人类对医学问题的认知一致，或者可以被人类理解。目前医学领域要求看到因果关系，但深度网络恰恰在挖掘因果性方面是弱项，这是当前技术路线面临的主要瓶颈。
未来AI医疗会完全放弃深度学习路线吗？
不会。训练法已成为主流技术路线，且在实际应用中展现出强大能力。当前的关键不是回到旧路线，而是通过人为的网络结构设计，让网络工作流程与人类已知的医学认知相匹配——这本质上仍是考验人类对医学问题的理解深度。