ChatGPT的归纳推理能力为何涌现，连其创造者也无法完全解释。这种不可解释性，正是制约AI医疗市场规模扩张的核心瓶颈——在诊断、药物发现等关键场景中，监管机构与医生对“可解释性”的高要求，可能延缓技术落地，进而影响市场增长预期。
涌现的黑箱：ChatGPT的不可解释性
ChatGPT的核心基于神经网络模型训练，研究人员使用梯度速降等算法训练拥有1500亿个参数的人工神经网络，但对于其中的细节其实并不掌握。在公开访谈中，OpenAI公司CEO萨姆·阿尔特曼也坦言，ChatGPT为何会出现归纳推理能力，研究者自己搞不明白。他们只知道，在不断测试和训练中，人类突然发现，ChatGPT开始出现了归纳推理能力。
这种“涌现”现象，与AI医疗面临的核心矛盾直接相关。
AI医疗的特殊性：可解释性为何是刚需
AI在医疗领域的落地，面临严格的可解释性要求。无论是FDA还是NMPA，对于AI医疗的可解释性都提出了很高的要求。具体来说，针对医学影像AI问题，所谓的可解释性，要求其工作流程和人类对医学问题的认知一致，或者其工作流程可以被人类所理解。
然而，目前深度网络和深度学习在挖掘因果性方面其实是个弱项。即使网络真的构造了一条看起来符合人类认知的逻辑链路，更大可能上也是通过人为的网络结构设计获得的，而不是机器学习本身发掘了这个因果性。
常见问题
### AI医疗市场规模扩张会因ChatGPT的不可解释性而停滞吗？
不会完全停滞，但增长速度可能被延缓。 监管机构（如FDA、NMPA）要求AI医疗具备可解释性，而ChatGPT式的黑箱模型难以满足这一标准。在诊断、药物发现等高风险场景中，技术落地需要更长时间验证，这会影响市场规模的短期增速。但长期看，可解释性技术本身也在进步。
### 医生和监管机构对AI医疗的可解释性有多看重？
非常高。 在医学领域，可解释性实质上要求看到因果关系，而不仅仅是相关性。医生和监管机构需要理解AI工作流程与人类医学认知的一致性，否则难以信任其诊断结果。目前，AI医疗的可解释性更像一个循环论证——从人类对问题的理解出发设计网络，构造与已知认知匹配的工作流程。
### 有没有可能通过其他技术路线解决AI医疗的不可解释性问题？
有，但需要时间。 目前AI医疗的主流技术路线是基于神经网络模型的训练（如深度学习），这类方法的工作原理尚未得到严格的数学定义。另一类基于模型运算能力的技术路线（如知识图谱）具有可解释性，但应用范围有限。未来，结合两类技术路线的混合方案，或新的可解释性理论突破，可能缓解这一矛盾。