ChatGPT的“黑箱”问题揭示了AI技术的共性难题，在AI医疗领域，中国在算法可解释性上仍面临全球性的技术挑战，当前全球各国（包括中国）均处于探索阶段，尚未形成公认的领先格局。根据约投顾的解读，可解释性是AI医疗落地的核心瓶颈，而中国在理论层面与欧美处于同一起跑线，但在监管标准和工程化应用上存在差异。
可解释性：AI医疗的全球共性难题
AI医疗的特殊性在于，无论是美国FDA还是中国NMPA，都对AI医疗的可解释性提出了很高要求。这与ChatGPT的“涌现”现象本质相通——OpenAI公司CEO萨姆·阿尔特曼在公开访谈中坦言，ChatGPT为何会出现归纳推理能力，研究者自己搞不明白。深度学习模型的工作原理目前尚未得到严格的数学定义，因而不具有可解释性，这一困境同样存在于AI医疗领域。
中美欧在可解释性标准上的差异
全球主要监管机构对AI医疗可解释性的要求路径不同：
- 美国FDA：强调因果关系的可验证性，要求AI工作流程与人类医学认知一致或可被理解。
- 欧盟：侧重算法透明度和用户知情权，要求披露训练数据与决策逻辑。
- 中国NMPA：同样要求可解释性，但更注重与临床路径的匹配，在审批中倾向于“结果可验证”而非“过程完全透明”。
目前，医学领域的可解释性实质上是在追求人类对网络结构设计如何与医学问题自身的逻辑匹配，这本质上是考验人类对医学问题的理解深度，而非AI自身发掘了新的因果链条。
常见问题
中国在可解释AI领域的论文和专利情况如何？
官方资料未公布具体论文或专利数据。但可解释性本身是一个全球性的理论难题——深度学习在挖掘因果性方面是弱项，即使网络构造出符合人类认知的逻辑链路，更大可能是通过人为的网络结构设计获得，而非机器学习本身发掘了因果性。
AI医疗的可解释性为何比通用AI更迫切？
因为医疗领域要求看到因果关系。目前深度网络和深度学习在挖掘因果性方面其实是弱项，所以即使网络真的构造了一条看起来符合人类认知的逻辑链路，更大可能上也是通过人为的网络结构设计获得的，而不是机器学习本身发掘了这个因果性。
中国AI医疗与全球领先水平相比还有哪些差距？
目前全球在AI医疗可解释性领域均处于早期阶段，中国与欧美在理论层面没有本质差距。但需要指出的是，可解释性要求与人类对医学问题的认知一致，这本质上是一个循环论证——从人类自己对问题的理解出发设计网络，构造一个与人类已知认知匹配的网络工作流程。