AI医疗模型的训练面临“黑盒”问题——以拥有1500亿参数的神经网络为例，其内部工作机制尚未被人类完全理解。这导致AI医疗公司的成本结构主要集中于三大板块：模型训练的算力成本、为提升可解释性而投入的研发费用，以及确保安全合规的临床验证成本。其中，验证成本因监管对可解释性的高要求而显著增加，构成了区别于通用AI模型的核心支出。
AI医疗的“黑盒”困境与成本来源
AI医疗模型多采用基于神经网络模型的训练路线（如深度学习），其工作原理目前尚未得到严格的数学定义，不具有可解释性。例如，一个拥有1500亿参数的人工神经网络，研究人员虽然知道其训练算法，但对内部细节并不完全掌握。这种“黑盒”特性直接推高了成本：
- 算力成本：训练1500亿参数模型需要强大的分布式算力资源，这是基础投入。
- 研发成本：为满足监管对可解释性的要求，企业需投入研发“可解释AI”模块。但资料指出，当前阶段的可解释性实质上是在追求人类对网络结构设计如何与医学问题自身逻辑匹配，这考验的是人类对医学问题的理解，而非网络发现新逻辑，因此研发过程存在循环论证式的额外投入。
- 验证成本：无论是FDA还是NMPA，对AI医疗的可解释性都提出了很高要求。由于深度学习在挖掘因果性方面是弱项，即使网络看似符合逻辑，也需人类进一步验证相关性，这导致临床验证成本显著增加。
盈利模式与合规溢价
由于黑盒问题，AI医疗企业的盈利模式面临额外挑战：合规与保险成本形成溢价。监管机构要求AI的工作流程与人类对医学问题的认知一致，或能被人类理解。这意味着，即使模型表现优异，若无法解释其决策逻辑，也难以获得审批或保险覆盖。因此，企业必须将大量资源投入验证环节，以证明其模型在具体医学问题上的可靠性，这构成了盈利模式中的刚性成本。
常见问题
为什么AI医疗模型的可解释性这么难解决？
可解释性本质要求工作流程与人类认知一致，但完成目标任务的途径有无穷多条，不可能要求所有途径都符合人类理解。目前，解决可解释性更多是在考验人类自己对医学问题的理解，并通过网络结构设计来匹配，而非依赖机器学习本身发掘因果性。
验证成本在AI医疗成本中占比很高吗？
是的。由于监管对可解释性的高要求，以及深度学习在因果性方面的弱项，即使模型输出看似合理，也需要人类进一步验证相关性。这使得临床验证成本成为AI医疗公司区别于通用AI公司的核心支出之一。
AI医疗模型的黑盒问题会影响其商业化吗？
会。目前阶段，监管机构不接受AI医疗的“涌现”能力，要求工作流程可被理解。因此，黑盒问题直接转化为合规成本与保险溢价，企业必须投入额外资源进行验证和解释，否则难以获得市场准入。