GPT-4 在宠物疑难病症诊断中的成功案例，确实展示了 AI 在医疗领域的巨大潜力，但这并不意味着 AI 医疗已经成熟可靠。AI 医疗目前仍面临误诊风险、数据隐私、责任归属与伦理监管等核心不确定性，其发展水平仅相当于自动驾驶的 L1-L2 阶段，绝不能完全脱离人类医生的监督。
单一案例不等于可靠，AI 幻觉是最大隐患
一个宠物诊断成功的案例，无法证明 AI 在复杂医疗场景中的普遍可靠性。GPT-4 等大语言模型存在“AI 幻觉”问题，即可能生成看似合理但实际错误的信息。在医疗场景中，这种幻觉可能导致误诊、错误用药建议等严重后果。正如《深度医疗》一书对 IBM 医疗 AI 沃森失败的分析所指出的，“最基本的失误之一，就是将获取数百万页的医疗信息等同于理解或使用这些信息”——理解医疗数据远比获得数据更重要也更困难，而当前的 AI 模型在真正的医学理解上仍有明显局限。
数据隐私与权属：AI 医疗的“永远的痛点”
医疗数据被称为 AI 时代的“石油”，但其特殊性在于涉及患者隐私。医疗数据的所有权理应属于患者，但在实际中，医疗大数据的权属基本在医院方，有观点认为其所有权在患者个人、控制权在医院、管理权在政府，第三方机构需借助政府支持和医院配合方能进行商业化开发。目前 AI 模型训练所需数据多通过企业与医院签署研发协议获得，且在实际操作中通常做到“数据不出院、模型出院”的物理隔离。这种数据孤岛格局，构成了 AI 医疗发展的核心瓶颈。
责任归属与伦理：AI 误诊由谁负责？
当 AI 辅助诊断出现误判时，责任归属成为一个棘手的伦理与法律问题——是开发者、医院，还是使用 AI 的医生？目前尚无明确共识。参考自动驾驶分级，AI 医疗仍处在 L1 到 L2 的水平，远未达到可以独立承担医疗决策的阶段。在任何时候、任何情况下，绝不能容忍没有人类医生和临床医生的监督。AI 可以辅助阅片、提供诊断建议，但最终的医疗决策与责任承担，必须由人类医生完成。
常见问题
AI 在医疗领域目前能做哪些事情？
AI 在医疗领域的应用范围较广，包括远程医疗虚拟助手、临床辅助决策、远程患者监护、心理咨询、病历保存、医疗翻译、药物管理和疾病监测等。例如，GPT-4 可以根据患者输入的检查信息提供诊断方向建议，辅助医生节省时间并减少错误。
AI 医疗何时能完全替代人类医生？
短期内无法实现。参考自动驾驶分级，AI 医疗目前仅处于 L1-L2 水平，即辅助驾驶和部分自动驾驶阶段，远未达到可独立决策的等级。医疗场景的复杂性和伦理要求决定了 AI 医疗不太可能超越自动设备的 3 级水平，人类医生的监督在任何情况下都不可或缺。
患者的医疗数据如何被 AI 企业使用？
目前 AI 模型训练所需医疗数据主要通过企业和医院签署研发协议获得，操作中会进行数据清洗，只保留必要数据，并做好医院与企业间的物理隔离，通常做到“数据不出院、模型出院”。同时，国内已有大数据交易所将医疗卫生数据纳入交易品类，但整体而言，医疗数据的权属、隐私保护与商业化开发之间的平衡仍是行业待解的难题。