AI医疗的发展经历了从早期专家系统到当前黑盒大模型的演进，其间深度学习在2010年代带来性能飞跃，但也引发了突出的可解释性问题，成为行业发展的重要拐点。
第一阶段：基于规则的专家系统
AI医疗的早期探索可追溯至20世纪80年代的专家系统，例如MYCIN。这类系统基于明确的规则和逻辑推理工作，其工作原理有严格的数学定义，因此具有可解释性——医生能够理解系统做出诊断的每一步依据。然而，这类系统的局限性也很明显：知识库覆盖范围有限，难以应对复杂多变的临床场景。
第二阶段：深度学习与黑盒问题
进入2010年代，以深度学习为代表的神经网络模型成为主流。AI在医疗领域取得显著性能提升，例如在医学影像分析中展现出超越人类专家的准确率。但这类模型的工作原理尚未得到严格的数学定义，内部机制不透明。正如资料所述，研究人员使用算法训练拥有1500亿个参数的人工神经网络，但对于其中的细节其实并不掌握。这种“黑盒”特性在医疗场景中引发严重担忧——医生和患者都难以信任一个无法解释其推理过程的系统。
第三阶段：可解释性成为新拐点
可解释性已成为AI医疗发展的关键拐点。监管机构如FDA和NMPA对AI医疗的可解释性提出了很高要求。对于医学影像AI问题，可解释性要求其工作流程和人类对医学问题的认知一致，或者其工作流程可以被人类所理解。然而，当前深度学习在挖掘因果性方面是个弱项，即使网络构造出看似符合人类认知的逻辑链路，也更多是通过人为的网络结构设计获得的，而非机器学习本身发掘的因果性。这意味着，在可见的将来，人类不会接受AI医疗的涌现，寻求可解释性本质上是在考验人类自己如何理解医学问题。
常见问题
专家系统与深度学习在可解释性上的根本区别是什么？
专家系统基于规则和符号逻辑，其推理过程可被逐条追溯，具有天然的可解释性。深度学习则通过训练大量参数来模拟人脑，但其内部机制不透明，目前工作原理尚未得到严格的数学定义，因此不具有可解释性。
深度学习模型在医疗领域为何难以获得监管批准？
监管机构要求AI医疗产品的工作流程与人类认知一致，且能被人类理解。但深度学习的黑盒特性使其难以满足这一要求——研究者只知道模型的基本逻辑，却不掌握其内部如何相互影响。这种不可解释性在医疗场景中构成风险，因此监管审批进展缓慢。
AI医疗的可解释性未来可能如何解决？
目前看来，可解释性需要从网络结构设计入手，使模型工作流程与人类对医学问题的已知认知相匹配。但这本质上是一个循环论证：人类基于自身理解设计网络，再让网络输出符合人类认知的结果。真正的因果性发现仍需要人类进一步验证，短期内难以通过模型自动实现。