AI医疗可解释性要求下,国产厂商在算法透明度和临床信任度上能否追上进口品牌?

可解释性是AI医疗临床信任的基石,要求其工作流程能被人类理解。国产厂商在算法透明度和临床信任度上具备追赶进口品牌的潜力,但差距仍存,关键在于本土化数据与政策支持的结合。

可解释性的本质与临床信任

可解释性要求AI医疗的工作流程与人类对医学问题的认知一致,或能被人类所理解。目前,深度学习网络在挖掘因果性方面是弱项,因此可解释性更多考验人类如何设计网络结构以匹配医学问题自身的逻辑。这本质上是在追求人类对网络结构设计与医学问题逻辑的匹配,而非网络自发发现因果链条。因此,可解释性建设是一个逐步积累信任的过程,而非一蹴而就。

国产厂商的追赶路径

国产厂商与国际品牌(如GE、西门子)在可解释性技术积累、临床论文发表和医院合作深度上存在差距。然而,国产厂商拥有两大优势:一是本土化数据,能够针对中国人群的疾病谱和医疗流程进行优化;二是政策支持,如NMPA对AI医疗的可解释性提出高要求,这倒逼厂商在算法透明度上持续投入。通过在这些领域深耕,国产厂商有望逐步缩小差距,但具体差距数值及赶超时间点需以官方后续公布为准。

常见问题

可解释性是否意味着AI必须完全像人一样思考?

不完全是。可解释性要求工作流程可被人类理解,但并不要求AI的思维模式完全复制人类。如资料所述,人类和计算机可以不同的方式实现智能,计算机智能以人类思维为参照,但不一定必须作为模板。

国产厂商在可解释性上的主要挑战是什么?

主要挑战在于深度学习网络内部工作流程的“黑箱”特性。目前,即便网络构造了一条符合人类认知的逻辑链路,更大可能是通过人为网络结构设计获得,而非机器学习本身发掘了因果性。这要求厂商在医学问题理解和网络结构设计上投入更多资源。

政策支持如何帮助国产厂商?

NMPA对AI医疗可解释性的高要求,促使厂商必须重视算法透明度。这既是一种压力,也是一种驱动力,推动国产厂商在技术路线上选择更稳健、更可解释的方案,从而在长期竞争中建立临床信任。

延伸阅读