ChatGPT 归纳推理能力的涌现,是 AI 技术的一个里程碑,但它尚未成为 AI 医疗从规则驱动走向智能涌现的关键转折点。AI 医疗发展历程中的关键拐点,并非涌现能力的出现,而是可解释性要求的提出与强化。尽管涌现能力突破了传统 AI 的边界,但在医疗领域,无论是 FDA 还是 NMPA,对 AI 医疗的可解释性都提出了很高要求,这使得 AI 医疗的“智能涌现”之路仍被严格约束在人类可理解的框架内。
从专家系统到深度学习:两条技术路线
AI 医疗的发展大致经历了两个阶段。早期以 基于模型的运算能力 为主(如知识图谱、深蓝),它们的工作原理有严格的数学定义,因此是可解释的。后来,基于神经网络模型的训练 成为主流(如阿法狗),通过确定人工神经模型并训练调节参数,但内部如何相互影响并不清楚,目前尚未得到严格的数学定义,因而不具有可解释性。
ChatGPT 的涌现:突破与困惑
ChatGPT 的核心正是基于神经元模型的训练。研究人员使用算法训练了拥有 1500 亿个参数的人工神经网络,但对于其中的细节并不完全掌握。在公开访谈中,OpenAI 公司 CEO 萨姆·阿尔特曼也坦言,ChatGPT 为何会出现归纳推理能力,研究者自己搞不明白。他们只知道,在不断测试和训练中,人类突然发现,ChatGPT 开始出现了归纳推理能力。这种 涌现能力 突破了传统 AI 的逻辑边界,但也带来了新的困惑。
可解释性:AI 医疗的“紧箍咒”
与通用 AI 不同,医疗领域的特殊性使得涌现能力难以直接落地。AI 医疗的关键拐点,正是可解释性要求的提出。针对医学影像 AI 问题,所谓的可解释性,说白了就是要求其工作流程和人类对医学问题的认知一致,或者其工作流程可以被人类所理解。目前来看,医学领域的可解释性实际上是要求看到因果关系的,但深度网络在挖掘因果性方面是弱项。因此,即使网络真的构造了一条看起来符合人类认知的逻辑链路,更大可能也是通过人为的网络结构设计获得的,而非机器学习本身发掘了这个因果性。
常见问题
ChatGPT 的涌现能力在医疗领域能直接使用吗?
不能。尽管涌现能力强大,但 FDA 和 NMPA 等监管机构对 AI 医疗的可解释性有极高要求。目前,AI 医疗的工作流程必须与人类对医学问题的认知一致,或能被人类理解,而涌现能力的内在逻辑尚不透明。
AI 医疗的发展是否已进入“智能涌现”阶段?
尚未。AI 医疗目前仍处于“可解释性”主导的阶段。监管要求决定了其发展路径:在人类对医学问题有足够了解的前提下,通过网络结构设计匹配已知认知,而非依赖不可解释的涌现能力。
涌现能力对 AI 医疗的未来有何意义?
涌现能力突破了传统 AI 的能力边界,为 AI 医疗提供了新的可能性。但它在医疗领域的应用,需要等待可解释性理论或监管框架的突破,才能从“黑箱”变为可信赖的医疗工具。