深蓝靠规则运算、阿法狗靠神经网络训练,AI医疗更可能沿哪条技术路线落地?两条路线的本质差异在于:深蓝代表的规则运算可解释但泛化有限,阿法狗代表的神经网络训练性能强大但缺乏可解释性。而AI医疗面临FDA与NMPA对可解释性的高要求,这决定了短期内更可能沿“规则可解释优先、神经网络辅助验证”的混合路线落地,而非单纯依赖其中任何一条。

两条技术路线的本质差异

AI发展形成了两大类技术路线:第一类是基于模型的运算能力(如知识图谱、深蓝),工作原理有严格的数学定义,因此是可解释的;第二类是基于神经网络模型的训练(如深度学习、阿法狗),通过训练得到参数被调节好的神经网络,目前内部如何相互影响并不清楚,工作原理尚未得到严格的数学定义,因而不具有可解释性。

这种差异类似于古代中国工匠知道黑火药的制备方法,却无法解释其中的化学原理。神经网络训练法虽是当前主流,但研究者对其内部机制的理解仍十分有限——正如ChatGPT的归纳推理能力为何出现,研究者自己也无法完全解释。

AI医疗的特殊性:可解释性是硬约束

在可见的将来,人类不接受AI医疗的“涌现”,无论是FDA还是NMPA,对AI医疗的可解释性都提出了很高要求。 针对医学影像AI问题,可解释性说白了就是要求其工作流程和人类对医学问题的认知一致,或者其工作流程可以被人类所理解。

然而,深度网络在挖掘因果性方面是弱项。即使网络构造了一条看起来符合人类认知的逻辑链路,更大可能也是通过人为的网络结构设计获得的,而非机器学习本身发掘了因果性。这意味着,现阶段寻求可解释性,实质上是追求人类对网络结构设计如何与医学问题自身逻辑相匹配——这本质上是在考验人类自己如何理解这个医学问题。

技术路线可解释性泛化能力医疗落地适配度
规则运算(深蓝式)强(有严格数学定义)有限适合封闭、规则清晰场景
神经网络训练(阿法狗式)弱(缺乏严格数学定义)需解决监管与临床信任问题

常见问题

AI医疗会先在哪些场景落地?

更可能先在规则相对清晰、工作流程接近人类医学认知的封闭场景逐步落地,如心电判读等参数明确的辅助工具。这类场景中,规则运算的可解释性能较好满足监管要求;而开放性的影像模式识别(如肺结节筛查)虽更依赖神经网络能力,但需在可解释性上投入更多设计努力。

神经网络路线在医疗领域完全不可用吗?

并非完全不可用,而是需要通过人为的网络结构设计来匹配医学问题的逻辑。目前来看,医学领域要求的可解释性实质上是看到因果关系,而深度网络在挖掘因果性方面是弱项,所以即使网络真的构造出符合人类认知的逻辑链路,也更多来自设计而非自发涌现。

两种路线未来会融合吗?

从监管与临床需求看,“规则框架约束+神经网络能力”的混合模式是较可能的方向:用规则运算保证核心流程的可解释性,用神经网络处理复杂模式识别,再通过人类验证相关性来弥补因果性缺口。但具体实现路径仍需以监管要求演进和临床验证结果为准。