人工智能监管不存在“二选一”的取舍,而是需要分层设计、双轨并行:大模型与小模型的技术特性不同,监管侧重也应有所区分——大模型侧重基础层的安全评估与算力治理,小模型侧重垂直场景的数据使用与算法责任。
大模型监管:抓基础层安全与算力治理
大模型的核心特点是泛化能力强,在大规模无标注数据上训练,学习出特征和规则,微调即可适配多个应用场景,甚至不微调也能完成任务。这意味着一个基础模型可能被广泛复用,其潜在影响面呈指数级扩散。因此,监管的重心应放在模型源头:对基础模型进行备案与安全评估,确保训练数据的合规性、生成内容的可控性,并关注支撑模型训练的算力基础设施治理。大模型还具备涌现能力——当模型规模达到某个阈值时,处理性能会突增,这种非线性增长也要求监管具备前瞻性,而非事后补救。
小模型监管:抓行业场景规范
小模型则相反,它针对特定应用场景需求训练,通用性差,换场景往往需要重新训练。这类模型深入渗透到医疗、金融、安防等具体行业,与用户权益直接挂钩。监管侧重应是行业专项规范:明确垂直领域的数据使用边界、算法决策的责任归属,以及场景化应用的准入标准。例如医疗AI需遵循医疗数据合规要求,金融AI需满足算法可解释性与公平性要求。
| 维度 | 大模型 | 小模型 |
|---|---|---|
| 技术特性 | 泛化能力强、涌现能力 | 针对特定场景、通用性差 |
| 监管侧重 | 基础模型备案、安全评估、算力治理 | 行业数据使用规范、算法责任 |
| 风险特征 | 影响面广、非线性增长 | 深入垂直场景、直接触达用户 |
常见问题
大模型和小模型的监管可以共用一套框架吗?
不适合完全共用。大模型的风险源于其广泛复用性和涌现能力,需要前置的基础层审查;小模型的风险集中在特定场景的应用层面,需要行业主管部门的专项规范。分层监管更符合技术本质。
大模型微调后产生的垂直应用,该归哪层监管?
这属于交叉地带。基础模型本身的备案与评估应在大模型框架下完成,而微调后落地到具体行业(如医疗、金融)的应用,则需同时满足对应行业的监管要求。两层监管互补而非互斥。
监管的优先级应如何安排?
从风险防控的紧迫性看,大模型的基础层安全评估和算力治理具有更强的外部性——一个基础模型的缺陷可能影响大量下游应用;但小模型直接触达终端用户,其场景化规范同样不可偏废。两者应同步推进,而非排序取舍。