GPT-4 成功诊断宠物罕见病，确实让不少人看到了 AI 在医疗领域的可能性。但个案的成功并不等于普适的可靠——在真实诊疗中，AI 医疗仍面临误诊责任、数据偏差、模型幻觉与紧急场景失效等多重风险，距离大规模独立临床决策还有明显距离。
AI 医疗的“能力边界”在哪？
如果将 AI 医疗类比自动驾驶的分级，目前 AI 医疗仍处在 L1 到 L2 的水平，即辅助驾驶与部分自动驾驶之间。在理想条件下，自动驾驶汽车已经可以达到 L3（条件性自动驾驶），但 AI 医疗面临更复杂的伦理问题——正如《深度医疗》作者埃里克·托普所言，AI 医疗不太可能超越自动设备的 3 级水平。
这意味着，大量诊断、阅片工作可以用 AI 辅助完成，但任何情况下都不能容忍没有人类医生和临床医生的监督。AI 是医生的工具，而非替代者。
数据与模型的“先天不足”
AI 的三大基石是数据、算法与算力，而医疗数据恰恰是 AI 医疗“永远的痛点”。医疗数据涉及患者隐私，权属复杂，且训练数据多通过医院与企业签署研发协议获得，通常“数据不出院，模型出院”。数据分布一旦存在偏差，AI 就可能出现诊断盲区——对常见病表现良好，对罕见病或特定人群则识别不稳定。
更关键的是，理解医疗数据远比获得数据更重要也更困难。埃里克·托普在分析 IBM 医疗 AI 沃森的失败时指出，其“最基本的失误之一，就是将获取数百万页的医疗信息等同于理解或使用这些信息。”模型幻觉——即 AI 生成看似合理实则错误的内容——在医疗场景中可能直接导致误诊或错误用药建议。
责任归属与紧急失效
当 AI 参与诊疗并出现失误时，责任归属是一个尚未厘清的灰色地带：是开处方的医生、提供建议的 AI，还是开发模型的厂商？目前行业对此缺乏明确共识。此外，在紧急情况下，系统可能因网络中断、算力不足或输入数据异常而失效，此时若过度依赖 AI，后果不堪设想。
常见问题
AI 医疗能替代医生吗？
不能。目前 AI 医疗仍处于辅助阶段，相当于自动驾驶的 L1-L2 水平，任何情况下都需人类医生监督。AI 可辅助阅片、提供临床建议，但最终决策和责任须由医生承担。
GPT-4 诊断宠物罕见病成功，能说明 AI 可靠吗？
不能。个案成功不代表普适能力。GPT-4 存在模型幻觉，对罕见病的识别也不稳定，且该案例中人类主人全程参与判断与验证，并非 AI 独立决策。
AI 医疗误诊了，谁负责？
目前责任归属尚不明确，涉及医生、医院、AI 开发者等多方，行业与监管仍在探索中。这也是 AI 医疗难以快速迈向高级别自动化的重要原因之一。