从哥德尔不完备性定理到图灵测试,再到以ChatGPT为代表的神经网络大模型,AI医疗的发展历程经历了从“逻辑形式系统”到“数据驱动涌现”的认知范式转折。这一脉络的关键拐点,不仅改变了人工智能的技术路线,也深刻影响着AI医疗在可解释性与临床应用上的路径选择。
理论奠基:哥德尔与图灵之争
哥德尔不完备性定理被视为理论计算机科学和人工智能理论的基础,它揭示了任何包含初等数论的形式系统都无法同时满足自治性与完备性。由此引发一个关键争论:既然计算机是符号化的形式系统,其内部必然存在不能被证明或证伪的命题,那么计算机的逻辑能力是否天然受限?
图灵对此给出了不同答案。在哥德尔的基础上,图灵提出了“图灵机”和“图灵检验”。图灵认为,人类思维本身也存在局限性,人类逻辑思维并不一定比计算机优越。计算机与人类可以以不同方式实现智能,正如人可以游泳但不必像鱼一样有尾巴——这一论断为后续神经网络路线的合法性提供了理论支撑。
技术分岔:可解释的运算与不可解释的训练
AI 在近年来的飞速发展中形成了两大类技术路线。第一类是基于模型的运算能力,如深蓝,其工作原理有严格的数学定义,因而可解释;第二类是基于神经网络模型的训练,如阿法狗,通过确定人工神经模型并训练参数来达成目标,但其内部工作机制尚未得到严格的数学定义,不具有可解释性。
ChatGPT 属于第二类路线,其核心是基于神经元模型的训练。在公开访谈中,OpenAI CEO 萨姆·阿尔特曼坦言,研究人员并不掌握其中的细节——在不断测试和训练中,人类突然发现 ChatGPT 开始出现了归纳推理能力,但研究者自己搞不明白为何会出现这一能力。这种“涌现”现象,标志着神经网络路线从量变到质变的重大突破。
AI医疗的特殊性:可解释性为何成为硬门槛
涌现之力对 AI 医疗意义重大,但AI医疗有其特殊性:在可见的将来里,人类不接受 AI 医疗的涌现,无论是 FDA 还是 NMPA,对于 AI 医疗的可解释性都提出了很高的要求。
针对医学影像 AI 问题,所谓的可解释性,就是要求其工作流程和人类对医学问题的认知一致,或者其工作流程可以被人类所理解。然而,完成目标任务的途径本质上有无穷多条,不可能要求任意一条途径都满足人类的理解模式。目前深度网络在挖掘因果性方面是弱项,即便网络构造出看似符合人类认知的逻辑链路,更大可能是通过人为网络结构设计获得的,而非机器学习本身发掘了因果性。因此,现阶段寻求可解释性,实质上是在考验人类对医学问题自身的理解深度。
常见问题
哥德尔不完备性定理对AI发展是阻碍还是推动?
哥德尔不完备性定理揭示了形式系统的内在局限,一度被用来质疑计算机能否真正具备智能。但图灵的反驳——人类思维同样存在局限——为AI开辟了不同于人类思维模式的实现路径,反而推动了神经网络路线的发展。
ChatGPT的“涌现”能力为什么重要?
ChatGPT 出现归纳推理能力属于“涌现”现象,即研究者并未显式设计这一能力,它是在大规模参数训练中自发出现的。这一突破标志着神经网络路线在智能模拟上的可行性得到验证,但同时也带来了可解释性难题。
AI医疗为什么不能直接采用ChatGPT的模式?
AI医疗直接关乎患者安全,监管机构对可解释性有严格要求。与通用对话场景不同,医学影像 AI 的工作流程需要与人类对医学问题的认知一致,而当前深度学习的因果挖掘能力仍是弱项,因此AI医疗需要在“涌现能力”与“可解释性”之间寻求平衡。