FDA与NMPA均对AI医疗的可解释性提出很高要求，但可解释性在深度学习领域缺乏针对特定应用的现成方案，这一共性挑战使得监管差异更多体现在落地路径与节奏上，而非方向性分歧。 在AI医疗全球竞赛中，制度优势的评判需回归技术本质：当前主流深度学习路线的工作原理尚未得到严格的数学定义，可解释性诉求本质上考验的是人类如何理解医学问题本身，而非单纯依赖监管框架的松紧。

可解释性：AI医疗监管的全球共识

在可见的将来，人类不接受AI医疗的“涌现”。无论是FDA还是NMPA，对于AI医疗的可解释性都提出了很高的要求。这一共识源于AI医疗的特殊性——医学场景直接关乎患者安全与临床决策，监管机构无法接受一个“只知其然、不知其所以然”的黑箱系统进入诊疗流程。

然而，可解释性本质要从深度学习理论的角度来提供，其实不存在针对某个特定应用的（深度网络的）可解释性。我们只能说某个工具的工作原理上是可解释的，但要求其具体工作流程的可解释性有时候不一定可行。面向问题的算法处理流程的可解释性，与构造这个算法的过程的可解释性，是两回事。

技术路线的分野与监管的难题

AI发展形成两大类技术路线：第一类是基于模型的运算能力（如知识图谱），其工作原理有严格的数学定义，所以是可解释的；第二类是基于神经网络模型的训练（如深度学习），通过确定人工神经模型并训练得到参数调节好的网络，是目前的主流，但其内部如何相互影响并不清楚，工作原理尚未得到严格的数学定义。

这一技术现实给全球监管者出了同一道难题。针对医学影像AI问题，所谓的可解释性，说白了就是要求其工作流程和人类对医学问题的认知一致，或者其工作流程可以被人类所理解。但由于完成目标任务的途径本质上有无穷多条，不可能要求任意一条途径都满足人类的理解模式。

目前来看，医学领域的可解释性实际是要求看到因果关系的，但深度网络和深度学习在挖掘因果性方面是弱项。即使网络真的构造了一条看起来符合人类认知的逻辑链路，更大可能上是通过人为的网络结构设计获得的，而非机器学习本身发掘了因果性。

制度差异的实质：人类认知的考验

在这个阶段寻求可解释性，实质上是在追求人类对网络结构设计如何与医学问题自身的逻辑匹配，这本质上还是在考验人类自己如何理解这个医学问题。极少可能出现人类在对医学问题没有足够了解的前提下，通过网络训练发现一个以前未知的逻辑链条——就算有所发现，应该也是相关性而非因果性。

因此，FDA与NMPA在可解释性要求上的制度差异，并不必然构成某一方的绝对优势。监管尺度影响的是企业全球布局的先后与区域选择，而底层技术挑战对所有市场参与者一视同仁。制度环境更优者，或许是那些能在可解释性框架下，为“人类如何理解医学问题”提供更清晰路径的监管体系。

常见问题

可解释性要求会阻碍AI医疗创新吗？

可解释性要求与创新并非零和博弈。当前深度学习在因果挖掘上是弱项，监管的高要求实际上倒逼企业在网络结构设计上更深入地匹配医学问题的逻辑，这可能催生更具临床价值的产品，而非简单的算力堆砌。

深度学习模型未来能实现真正的可解释吗？

在可见的将来，人类不接受AI医疗的涌现，但可解释性在理论上存在边界。正如哥德尔不完备性定理所示，任何形式系统都存在无法证明或证伪的命题。深度学习模型的可解释性或许需要人类在医学理解与网络结构设计之间找到新的匹配路径，而非单纯等待技术突破。

FDA与NMPA的监管取向有何不同？

两者均对AI医疗可解释性提出很高要求，方向一致。具体落地路径的差异需结合各自法规体系与临床实践环境观察，建议关注监管机构后续发布的技术指导文件及行业实践案例，以形成更完整的判断。