ChatGPT涌现出归纳推理能力，AI医疗的技术路线为何仍坚持可解释性？

ChatGPT 通过大规模神经网络训练涌现出归纳推理能力，但 AI 医疗的技术路线仍必须坚持可解释性，核心原因在于医疗场景的监管门槛与责任边界：无论是 FDA 还是 NMPA，都对 AI 医疗的可解释性提出了很高要求，而这一点在可见的将来内不会改变。

涌现的“黑箱”：连创造者也无法完全解释

AI 发展形成了两大类技术路线：一类是基于模型的运算能力（如深蓝），其工作原理有严格的数学定义，因此是可解释的；另一类是基于神经网络模型的训练（如阿法狗、ChatGPT），通过确定人工神经模型并训练得到参数调节好的网络，但其内部如何相互影响目前并不清楚，工作原理尚未得到严格的数学定义。

ChatGPT 正是后者的代表。在公开访谈中，OpenAI 公司 CEO 萨姆·阿尔特曼也坦言：ChatGPT 为何会出现归纳推理能力，研究者自己搞不明白。他们只知道，在不断测试和训练中，人类突然发现 ChatGPT 开始出现了归纳推理能力。这种“涌现”类似于古代中国工匠知道黑火药的制备方法，却无法解释其中的化学原理。

AI 医疗的特殊性：监管要求可解释

与通用 AI 领域对“涌现”的接受度不同，AI 医疗在可见的将来里不接受涌现。无论是 FDA 还是 NMPA，对于 AI 医疗的可解释性都提出了很高的要求。

针对医学影像 AI 问题，所谓的可解释性，说白了就是要求其工作流程和人类对医学问题的认知一致，或者其工作流程可以被人类所理解。但这里存在一个深层矛盾：完成目标任务的途径本质上有无穷多条，不可能要求任意一条途径都满足人类的理解模式。除非真的找到一条符合人类认知特征的途径，但这不等于说不符合人类认知特征的途径就不可用。

可解释性的本质：因果性与认知匹配

目前医学领域的可解释性，实际上是要求看到因果关系的，但深度网络和深度学习在挖掘因果性方面恰恰是个弱项。即使网络真的构造了一条看起来符合人类认知的逻辑链路，更大可能上也是通过人为的网络结构设计获得的，而不是机器学习本身发掘了这个因果性。

因此，在这个阶段寻求可解释性，实质上是在追求人类对网络结构设计如何与医学问题自身的逻辑匹配，这本质上还是在考验人类自己如何理解这个医学问题。即便有所发现，也更可能是相关性而非因果性，还需要人类进一步验证。这个意义上的可解释性其实像一个循环论证——从人类自己对问题的理解出发设计网络，构造一个与人类已知认知匹配的网络工作流程。

常见问题

AI 医疗为什么不能像 ChatGPT 一样接受“黑箱”？

因为医疗决策直接关系患者生命健康，无论是 FDA 还是 NMPA，都对 AI 医疗的可解释性提出了很高要求。监管逻辑要求 AI 的工作流程能被人类理解，而不能仅凭“涌现”的结果就投入临床应用。

深度学习的可解释性在医学领域具体指什么？

针对医学影像 AI，可解释性说白了就是要求其工作流程和人类对医学问题的认知一致，或者其工作流程可以被人类所理解。这并非要求算法每一步都符合人类思维，而是要求整体逻辑链路能被医学专业人士审阅和接受。

未来 AI 医疗会放弃可解释性要求吗？

在可见的将来里，人类不接受 AI 医疗的涌现。只要监管框架不变，可解释性就仍是 AI 医疗技术路线的刚性约束。这意味着 AI 医疗的发展方向，将更多围绕如何让网络结构设计与医学问题自身逻辑相匹配，而不是单纯追求模型的“涌现”能力。