ChatGPT的推理能力为何涌现，连其创造者也无法完全解释，这给依赖透明度的AI医疗赛道带来了独特挑战。在可解释性成为监管核心的背景下，AI医疗领域的突破并不在于复制“涌现”，而在于通过可解释AI（XAI）技术，如基于模型的运算和人为网络结构设计，来构建符合人类认知逻辑的透明算法，这正是Google Health、IBM Watson等龙头企业竞争的关键。
涌现的黑箱与可解释性需求
ChatGPT的核心基于神经网络模型的训练，研究人员使用算法训练拥有1500亿个参数的人工神经网络，但对内部细节并不完全掌握。OpenAI CEO萨姆·阿尔特曼在公开访谈中也坦言，ChatGPT为何会出现归纳推理能力，研究者自己搞不明白——他们只知道，在不断测试中，人类突然发现它开始出现了归纳推理能力。
这种“涌现”在AI医疗领域面临根本性障碍。无论是FDA还是NMPA，都对AI医疗的可解释性提出了很高要求。目前，医学领域的可解释性实质上要求看到因果关系，但深度学习在挖掘因果性方面是弱项。即使网络构造出看似符合人类认知的逻辑链路，更大程度上也是通过人为的网络结构设计获得的，而非机器学习本身发掘了因果性。
龙头企业的技术策略
AI发展形成了两大类技术路线，这直接对应了可解释性的不同策略：
| 技术路线 | 代表 | 可解释性特征 |
|---|---|---|
| 基于模型的运算能力 | 深蓝 | 有严格数学定义，工作原理可解释 |
| 基于神经网络模型的训练 | 阿法狗、ChatGPT | 模拟人脑，内部相互影响不明确，不具有可解释性 |
针对医学影像AI问题，所谓的可解释性，就是要求其工作流程和人类对医学问题的认知一致，或者其工作流程可以被人类所理解。龙头企业（如Google Health、IBM Watson）的策略，实质上是追求人类对网络结构设计如何与医学问题自身的逻辑匹配——这本质上还是在考验人类自己如何理解这个医学问题。极少可能出现人类在对相应医学问题没有足够了解的前提下，通过网络训练发现一个以前未知的逻辑链条；就算有所发现，也是相关性而非因果性，还需要人类进一步验证。
常见问题
为什么ChatGPT的涌现不可直接用于AI医疗？
因为医疗监管机构要求AI的决策过程可被人类理解，而ChatGPT的涌现机制是黑箱式的，其内部逻辑连研究者也无法完全解释。这与FDA、NMPA对可解释性的硬性要求直接冲突。
可解释AI在医疗领域如何实现？
目前主要通过人为的网络结构设计，让算法的工作流程与人类对医学问题的已有认知相匹配。这本质上是在考验人类自己如何理解这个医学问题，而非让AI自主发现因果逻辑。
深度网络能否自己发现新的医学因果关系？
极难。即使网络构造出看似合理的逻辑链路，更大程度上是人为设计的结果，而非机器学习本身发掘了因果性。即使有所发现，也更可能是相关性而非因果性，仍需人类进一步验证。