政策监管对AI医疗中深蓝与阿法狗两种技术路线的影响,核心在于可解释性要求。基于规则运算的“深蓝”类模型(如知识图谱)因其工作原理有严格数学定义、可解释性强,在当前监管环境下更易获得医疗器械审批;而基于神经网络训练的“阿法狗”类模型(如深度学习)因内部工作机制不透明、缺乏可解释性,面临更多验证挑战。
可解释性是监管的核心门槛
在AI医疗领域,无论是美国的FDA还是中国的NMPA,都对产品的可解释性提出了很高要求。深蓝类模型的工作原理有严格的数学定义,其决策过程可以被追溯和解释,这符合监管对医疗器械安全性和有效性的审查逻辑。相反,阿法狗类模型通过训练得到一个参数被调节好的神经网络,但其内部如何相互影响尚不清楚,工作原理未得到严格数学定义,不具有可解释性。
两种技术路线的监管差异
| 技术路线 | 可解释性 | 监管审批优势 |
|---|---|---|
| 深蓝(基于模型运算) | 高,工作原理有严格数学定义 | 更容易满足FDA/NMPA对可解释性的要求 |
| 阿法狗(基于神经网络训练) | 低,内部工作机制不透明 | 面临更多验证挑战,需证明工作流程与人类认知一致 |
常见问题
为什么阿法狗类模型难以解释?
因为其核心是基于神经元模型的训练,研究者只知其基本逻辑,但内部如何相互影响并不清楚。就像古代工匠知道黑火药的制备方法,却无法解释其中的化学原理。
监管对可解释性的具体要求是什么?
以医学影像AI为例,可解释性要求其工作流程和人类对医学问题的认知一致,或者可以被人类理解。这实质上要求看到因果关系,而深度学习在挖掘因果性方面是弱项。
未来技术路线会如何发展?
在可见的将来,人类不接受AI医疗的涌现。监管对可解释性的高要求将持续偏向规则运算路线,迫使神经网络路线在提升可解释性方面做出更多努力,例如通过人为的网络结构设计来匹配医学问题的逻辑。