深蓝与阿法狗代表了AI的两条经典技术路线:深蓝走的是基于模型的运算能力路线,工作原理有严格的数学定义、可解释;阿法狗走的是神经网络训练路线,模拟人类思维方式,但内部机制目前尚不清晰、不可解释。AI医疗因监管对可解释性的硬性要求,需要在这两条路线之间做出审慎权衡——现阶段,监管环境更倾向于支持可解释性强的技术路线,而纯粹的深度神经网络训练在医疗场景下面临可解释性挑战

两条技术路线的本质差异

AI发展形成了两大类技术路线。第一类是基于模型的运算能力(如知识图谱),依靠计算机运算能力,代表是深蓝第二类是基于神经网络模型的训练(如深度学习),模拟人类思维方式,代表是阿法狗

两类路线的核心区别在于可解释性:

维度基于模型运算(深蓝路线)神经网络训练(阿法狗路线)
工作原理有严格的数学定义尚未得到严格的数学定义
可解释性可解释不具有可解释性
内部机制逻辑链条清晰内部如何相互影响并不清楚

训练法是目前的主流,但人们目前还只知道其基本逻辑,内部如何相互影响并不清楚。这类似于古代中国工匠知道黑火药的制备方法,却无法解释其中的化学原理。

AI医疗对可解释性的特殊要求

在可见的将来里,人类不接受AI医疗的涌现,无论是FDA还是NMPA,对AI医疗的可解释性都提出了很高的要求。针对医学影像AI问题,可解释性说白了就是要求其工作流程和人类对医学问题的认知一致,或者其工作流程可以被人类所理解。

然而,医学领域的可解释性实际上要求看到因果关系,目前深度网络和深度学习在挖掘因果性方面是个弱项。即使网络真的构造了一条看起来符合人类认知的逻辑链路,更大可能上也是通过人为的网络结构设计获得的,而不是机器学习本身发掘了这个因果性。这个意义上的可解释性实质上是在追求人类对网络结构设计如何与医学问题自身的逻辑匹配,本质上还是在考验人类自己如何理解这个医学问题。

常见问题

AI医疗只能选择深蓝路线吗?

并非只能选择深蓝路线,但现阶段监管对可解释性的高要求,使得基于模型运算的路线在合规层面更占优势。神经网络训练路线虽然成果丰富,但其工作流程难以被人类完全理解,在医疗这一对因果关系要求极高的领域,需要更多人为的网络结构设计来匹配医学问题的逻辑。

神经网络训练在AI医疗中完全不可用吗?

不是完全不可用,而是需要正视其局限。神经网络即使有所发现,更多是相关性而非因果性,还需要人类进一步验证相关性的存在。因此在医疗场景中,深度学习的应用需要配合人类对医学问题的充分理解来设计网络结构,而不是单纯依赖训练出的黑箱结果。

为什么AI医疗不能像阿法狗那样靠训练取胜?

阿法狗在围棋领域可以依靠大规模训练取胜,因为围棋规则明确、胜负可判。但医疗直接关系人的生命健康,监管要求AI的工作流程可被人类理解、与医学认知一致。而神经网络训练的内部机制尚未被严格定义,无法满足这一要求,所以AI医疗不能简单复制阿法狗的训练路线。