AI医疗深度学习“黑箱”问题在全球引发不同监管态度：中国积极拥抱创新但要求上市后持续提交真实世界数据，欧盟通过高风险AI分类严格强调可解释性，美国FDA侧重临床等效性认定，黑箱本身不构成否决理由。总体而言，中国在鼓励创新与加强监管之间寻求平衡，处于相对中间的位置。
中国：鼓励创新与上市后监管并行
中国国家药品监督管理局（NMPA）对AI医疗产品持积极支持态度，但同时强调可解释性。官方要求AI医疗器械在上市后持续提交真实世界数据，以验证其在实际临床环境中的安全性与有效性。这一策略在推动技术落地的同时，通过动态数据监测来弥补“黑箱”带来的不确定性，体现了“先上市、再完善”的务实思路。
欧盟：以透明度为优先
欧盟通过《人工智能法案》将AI医疗归为高风险应用，要求开发者提供清晰的解释性说明。这意味着AI系统的决策逻辑必须能够被人类理解，且其工作流程需与医学认知保持一致。欧盟的监管框架本质上是要求“可解释性”作为准入前提，这与深度学习本身难以被完全解释的特性形成直接张力。
美国：临床等效性优先
美国食品药品监督管理局（FDA）对AI医疗的审批更关注临床等效性——即AI的诊断或辅助决策结果是否与传统方法（如医生诊断）达到同等水平。黑箱本身不构成否决理由，只要产品在临床试验中证明其表现不劣于现有标准，即可获得上市许可。这一做法将监管焦点从“如何工作”转向“结果是否可靠”。
常见问题
为什么深度学习模型难以解释？
深度学习通过训练人工神经网络来完成任务，但其内部参数如何相互影响、如何得出最终结论，目前尚未得到严格的数学定义。研究人员知道其基本逻辑，但具体细节并不完全掌握，这与人类对自身大脑运作的理解程度类似。
可解释性对AI医疗意味着什么？
在医学影像AI领域，可解释性要求AI的工作流程与人类对医学问题的认知一致，或者其流程能被人类理解。但完成同一任务有无数条路径，要求所有路径都符合人类认知并不现实。目前的可解释性更多是考验人类如何将医学逻辑设计进网络结构，而非让AI自主发现因果关系。