从深蓝到ChatGPT再到AI医疗，行业发展的三次关键拐点，本质上都是哥德尔不完备性定理所揭示的“可解释性”困境在不同技术路线下的反复博弈。AI发展形成了两条截然不同的技术路线：一类是基于模型运算能力、具有严格数学定义因而可解释的路线（如深蓝）；另一类是基于神经网络训练、内部机制尚不明确因而不可解释的路线（如阿法狗、ChatGPT）。AI医疗的演进正是在这两条路线之间交替与妥协，每一次拐点都是对可解释性需求的一次再平衡。
从符号主义到深度学习：第一次拐点
早期AI医疗以专家系统等符号逻辑为主，其工作原理有严格的数学定义，具备可解释性，符合监管与临床对因果逻辑的期待。然而，这类系统的知识覆盖有限，面对复杂多变的真实临床场景逐渐停滞。
深度学习的引入带来了性能的跃迁。以阿法狗为代表的神经网络训练路线，通过确定人工神经模型并训练调节参数，在影像识别等任务上展现出远超规则系统的能力。但代价随之而来：人们目前只知道其基本逻辑，内部如何相互影响并不清楚，工作原理尚未得到严格的数学定义，因而不具有可解释性。这构成了AI医疗在监管层面的核心瓶颈。
大模型时代：涌现与监管的张力
ChatGPT的出现将这条路线推向新高度。ChatGPT的核心基于神经元模型的训练，研究人员使用梯度速降等算法训练拥有1500亿个参数的人工神经网络，但对于其中的细节并不掌握。OpenAI公司CEO萨姆·阿尔特曼在公开访谈中坦言：ChatGPT为何会出现归纳推理能力，研究者自己搞不明白——他们只知道在不断测试和训练中，人类突然发现ChatGPT开始出现了归纳推理能力。
这种“涌现”能力虽然强大，却加剧了AI医疗的监管困境。在可见的将来，无论是FDA还是NMPA，对于AI医疗的可解释性都提出了很高的要求。医学领域的可解释性，实质上是要求看到因果关系，而深度网络和深度学习在挖掘因果性方面恰恰是个弱项。
可解释性的本质困境
针对医学影像AI问题，可解释性说白了就是要求其工作流程和人类对医学问题的认知一致，或者其工作流程可以被人类所理解。然而，完成目标任务的途径本质上有无穷多条，不可能要求任意一条途径都满足人类的理解模式。
更深层的问题在于，在这个阶段寻求可解释性，实质上是在追求人类对网络结构设计如何与医学问题自身的逻辑匹配。这本质上还是在考验人类自己如何理解这个医学问题——从人类自己对问题的理解出发设计网络，构造一个与人类已知认知匹配的网络工作流程，这在一定程度上像一个循环论证。
常见问题
为什么深蓝可解释而阿法狗不可解释？
深蓝属于基于模型运算能力的技术路线，其工作原理有严格的数学定义，因而可解释；阿法狗属于基于神经网络模型训练的技术路线，通过确定人工神经模型然后训练得到参数调节好的网络，内部如何相互影响并不清楚，工作原理尚未得到严格的数学定义，因而不具有可解释性。
ChatGPT的涌现能力为什么让研究者困惑？
ChatGPT虽然需要强大的分布式算力资源，但核心仍是基于神经元模型的训练。研究人员使用梯度速降等算法训练拥有1500亿个参数的人工神经网络，但对其中的细节并不掌握。在公开访谈中，OpenAI公司CEO萨姆·阿尔特曼也坦言，ChatGPT为何会出现归纳推理能力，研究者自己搞不明白。
图灵如何看待AI的可解释性局限？
图灵认为人类思维本身也存在局限性，因为人类所建立的形式系统也是不完全的，所以人类逻辑思维并不一定比计算机优越。他认为完成一件事可以有不同的方式，计算机智能以人类思维作为参照，但不一定必须作为模板，就像人可以游泳，但不必像鱼一样有尾巴。