在AI医疗领域，深度学习在挖掘因果性方面是弱项，这使得可解释性强的方案更易获得临床信任与溢价，商业模式中的价值分配正明显向这一方向倾斜。监管机构（如FDA、NMPA）对AI医疗的可解释性有很高要求，而可解释性本质上是要求看到因果关系，但当前深度学习模型在这一方面存在局限。因此，具备可解释性（如基于模型运算能力的技术路线）的产品在采购谈判中往往能获得更优的合同条款和更高的价值分配。
可解释性：临床信任与监管准入的关键
AI医疗的可解释性，简单来说，就是要求AI的工作流程与人类对医学问题的认知一致，或能被人类所理解。监管机构对此有严格的要求，因为不可解释的“涌现”现象（如ChatGPT的归纳推理能力）在医疗场景中难以被直接接受。具备可解释性的方案，其工作原理有严格的数学定义，更容易通过审批，也更容易获得医生的信任。
价值分配向可解释性方案倾斜
在AI医疗产业链中，算法方、数据方、医院和药企之间的价值分配，正逐渐向能够提供可解释性方案的算法方倾斜。虽然具体溢价比例和分成数据官方尚未公布，但从行业趋势看，拥有可解释性的产品在商业谈判中更具议价能力。这是因为它们能更好地满足临床对因果性的需求，降低使用风险，从而获得更高的合同分成或更优的条款。
常见问题
为什么AI医疗特别强调可解释性？
因为医疗关乎生命健康，监管机构（如FDA、NMPA）要求AI的工作流程必须能被人类理解，并且能看到因果关系。深度学习在挖掘因果性方面是弱项，因此可解释性强的方案更容易获得临床信任和监管批准。
可解释性弱的AI方案在商业模式中会处于劣势吗？
是的。由于不可解释的“涌现”现象在医疗场景中难以被直接接受，这类方案在采购谈判中可能面临更多质疑，导致价值分配不如可解释性强的方案。商业模式中的价值分配正向后者倾斜。
如何判断一个AI医疗方案是否具备可解释性？
可解释性方案通常基于模型运算能力（如知识图谱），其工作原理有严格的数学定义。而基于神经网络训练（如深度学习）的方案，其内部机制目前尚不完全清楚，可解释性较弱。