神经网络训练参数规模扩张，AI医疗在下游应用场景中如何落地？

AI医疗的落地并非单纯取决于参数规模扩张，而是由各应用场景对可解释性、数据可得性与监管要求的差异共同决定的。 在医学影像等强模式识别任务中，大参数模型的需求相对明确；而在涉及因果推断的临床决策场景中，由于监管对可解释性的严格要求，大参数模型的落地阻力更大。当前阶段，AI医疗的核心矛盾不是模型“能不能做”，而是“敢不敢用”。

参数规模与可解释性的权衡

AI发展形成了两条技术路线：一是基于模型的运算能力（如知识图谱），工作原理有严格数学定义，具备可解释性；二是基于神经网络模型的训练（如深度学习），通过训练得到参数被调节好的神经网络，但内部如何相互影响并不清楚，工作原理尚未得到严格的数学定义，因而不具有可解释性。

在医疗领域，无论是FDA还是NMPA，对AI医疗的可解释性都提出了很高要求。这种可解释性本质上要求AI的工作流程与人类对医学问题的认知一致，或至少能被人类理解。然而，深度网络在挖掘因果性方面是弱项，即使网络构造出看似符合人类认知的逻辑链路，更大可能也是通过人为网络结构设计获得的，而非机器学习本身发掘了因果性。

不同场景对参数规模的敏感度差异

医学影像AI是典型的强模式识别任务，其可解释性要求主要体现为工作流程与人类认知模式匹配。这类任务对大参数模型的需求较为直接——更大的参数规模有助于提升识别精度，且影像数据相对标准化、可标注性强，监管路径也相对清晰。

相比之下，临床辅助决策场景涉及因果关系推断，而深度学习在此方面是弱项。即便模型参数规模再大，若无法提供符合医学认知逻辑的决策链路，在监管层面仍难以获得认可。正如资料所指出的，现阶段寻求可解释性，实质上是在追求人类对网络结构设计如何与医学问题自身逻辑匹配，这考验的是人类对医学问题的理解深度，而非单纯的计算能力。

常见问题

大参数模型在医学影像中一定能带来更好效果吗？

在医学影像这类强模式识别任务中，参数规模扩张对识别能力的提升有相对明确的帮助。但需要强调的是，由于完成目标任务的途径本质上有无穷多条，并非所有符合任务要求的路径都满足人类的理解模式，因此最终效果仍需以临床验证为准。

AI医疗的“涌现”能力为何在临床中难以直接应用？

虽然大模型在训练中可能突然出现归纳推理等涌现能力，但在可见的将来，人类不接受AI医疗的涌现。监管机构要求AI医疗具备可解释性，而涌现能力的产生机制本身尚未被研究者完全掌握，这在临床应用中构成了实质性障碍。

医学影像AI的可解释性具体指什么？

针对医学影像AI，可解释性说白了就是要求其工作流程和人类对医学问题的认知一致，或者其工作流程可以被人类所理解。这本质上要求人类对医学问题有足够理解，并据此设计网络结构，使AI的工作流程与已知认知相匹配。