从图灵测试到深度学习黑箱，AI医疗的可解释性之争经历了哪些关键拐点？

从图灵测试到深度学习黑箱，AI医疗的可解释性之争经历了三个关键拐点：图灵测试确立了“行为等同即智能”的判定标准，哥德尔不完备性定理揭示了形式系统的内在局限，而深度学习黑箱则让可解释性从哲学思辨变成了监管刚需。这一演进脉络在约投顾《AI医疗》系列课程中有系统梳理，核心结论是：在可见的将来，人类不接受AI医疗的“涌现”，FDA与NMPA对可解释性都提出了很高要求。

从图灵测试到哥德尔：可解释性问题的哲学源头

1950年，图灵提出图灵测试，核心思路是：如果询问者C无法通过问答分辨机器A与正常人B的区别，则机器通过测试。这一标准将“智能”定义为行为层面的不可区分，而非内部机制的透明可解释。

在哥德尔不完备性定理的基础上，图灵提出了“图灵机”和“图灵检验”。哥德尔定理揭示：任何包含初等数论的形式系统，必定存在既不能被证明也不能被证伪的命题。有学派据此认为计算机作为符号化形式系统，逻辑能力有限，难以具备真正的智能；但图灵本人认为人类思维同样存在局限，计算机可以以不同于人类的方式实现智能——“人可以游泳，不必像鱼一样有尾巴”，这一观点为后来深度学习“黑箱但有效”的路线预留了理论空间。

技术路线分岔：可解释与不可解释的两条路径

AI发展形成两大类技术路线，其可解释性截然不同：

训练法目前是主流，但人们只知其基本逻辑，内部如何相互影响并不清楚，工作原理尚未得到严格数学定义，因而不具有可解释性。以ChatGPT为例，研究人员使用梯度速降等算法训练拥有1500亿个参数的人工神经网络，但对其中细节并不掌握。OpenAI CEO萨姆·阿尔特曼在公开访谈中也坦言，ChatGPT为何会出现归纳推理能力，研究者自己搞不明白。

AI医疗的特殊性：可解释性成为监管准入门槛

AI医疗对可解释性的要求远高于通用AI。在可见的将来，人类不接受AI医疗的涌现，FDA和NMPA对AI医疗的可解释性都提出了很高要求。

针对医学影像AI问题，可解释性说白了就是要求其工作流程和人类对医学问题的认知一致，或者其工作流程可以被人类所理解。但这里存在深层矛盾：完成目标任务的途径本质上有无穷多条，不可能要求任意一条途径都满足人类的理解模式。

医学领域的可解释性实际要求看到因果关系，而深度网络在挖掘因果性方面是弱项。即使网络构造出看起来符合人类认知的逻辑链路，更大可能也是通过人为的网络结构设计获得的，而非机器学习本身发掘了因果性。这个阶段寻求可解释性，实质上是在考验人类自己如何理解医学问题，从人类对问题的理解出发设计网络，构造与已知认知匹配的工作流程——这个意义上的可解释性，更像一个循环论证。

常见问题

图灵测试今天还有意义吗？

有。图灵测试虽然是1950年提出的判定标准，但它确立了“行为等同即可视为智能”的实用主义思路，至今仍是人工智能不可或缺的判定标准。它激起的广泛讨论跨越哲学、数学、计算机科学等多个领域，其思想深刻性远超表面的“问答游戏”。

深度学习为什么难以解释？

因为训练法的工作原理尚未得到严格数学定义。通过确定人工神经模型后训练得到参数调节好的网络，人们只知道基本逻辑，但内部如何相互影响并不清楚。正如古代中国工匠知道黑火药的制备方法，但无法解释其中的化学原理。

AI医疗的可解释性要求会放松吗？

在可见的将来不会。FDA和NMPA对AI医疗的可解释性都提出了很高要求，人类不接受AI医疗的“涌现”。可解释性本质要从深度学习理论角度提供，但针对特定应用的可解释性并不存在——某个工具的工作原理可解释，不代表其具体工作流程也可解释，这两者需要区分。