AI医疗的行业演进,本质上是算法、算力与数据三重条件依次成熟的过程。早期AI沿两条路线并行:一类是基于模型运算能力的技术路径,如深蓝;另一类是基于神经网络模型训练的技术路径,如阿法狗。 后者逐渐成为主流——研究人员使用梯度下降等算法训练拥有1500亿个参数的人工神经网络,但对其内部如何相互影响并不完全掌握。这一“能力可见、细节难解”的特征,构成了AI医疗此后所有关键转折的底层背景。
从规则系统到神经网络
AI最初依赖严格数学定义的可解释路径,如知识图谱与符号运算;而神经网络路线通过确定人工神经模型、经训练得到参数被调节好的网络。训练法成为主流后,人们只知基本逻辑,内部机制尚未获得严格的数学定义,因而不具有可解释性。这正是AI医疗范式转移的起点:从人类写死的规则,转向由数据与梯度下降“调”出来的参数。
可解释性成为落地门槛
AI医疗的特殊性在于,无论是FDA还是NMPA,对AI医疗的可解释性都提出了很高要求。这种可解释性,实质是要求网络工作流程与人类对医学问题的认知一致,或至少可被人类理解。但完成目标任务的途径本质上无穷多条,无法要求每一条都符合人类理解模式;且深度网络在挖掘因果性方面是弱项,即使呈现出一条看似符合人类认知的逻辑链路,更大可能是人为网络结构设计的结果,而非机器学习自行发掘了因果性。因此这一阶段的可解释性,考验的仍是人类自身对医学问题的理解。
大模型进入医疗环节
随着参数规模与训练方法成熟,大模型开始进入药物管理与医疗翻译等环节。研究者发现,在不断测试和训练中,模型开始出现归纳推理能力——OpenAI公司CEO萨姆·阿尔特曼也坦言,ChatGPT为何会出现归纳推理能力,研究者自己搞不明白。对AI医疗而言,这既是能力跃升,也意味着可解释性挑战长期并存。
常见问题
AI医疗为什么特别强调可解释性?
因为监管机构对AI医疗的可解释性提出了很高要求,需要其工作流程与人类对医学问题的认知一致或可被理解。而深度网络在挖掘因果性方面是弱项,这使可解释性成为落地的核心门槛。
梯度下降在AI医疗中扮演什么角色?
梯度下降等算法被用于训练拥有1500亿个参数的人工神经网络,是训练法成为主流的技术基础。但人们目前只掌握其基本逻辑,网络内部如何相互影响尚不清楚。
AI医疗的下一阶段会由什么驱动?
从现有路径看,大模型已进入药物管理与医疗翻译等环节,归纳推理能力在训练中自发出现。后续演进仍需在算法、算力与数据三重条件上继续成熟,并以监管对可解释性的要求为边界。