随着生成式人工智能技术的迅猛发展,我国逐步构建起科学规范的大模型监管体系。2023 年 8 月,《生成式人工智能服务管理暂行办法》(以下简称《暂行办法》)的出台,标志着我国大模型监管进入制度化阶段。该办法确立了备案与登记分类管理的基本框架,旨在平衡技术创新与风险防控。2024 年 3 月,《生成式人工智能服务安全基本要求》(TC260-003)的发布,进一步从技术层面细化了合规标准,形成了 “制度 + 技术” 双轮驱动的监管格局,另外随着大模型在政务、金融、医疗等行业的广泛落地,监管框架进一步细化,形成以“备案制+登记制”为核心的双轨管理机制。
截至 2025 年 3 月,全国已有 505 款生成式人工智能服务完成备案,其中大模型备案 346 款,登记 159 款,体现了分类监管政策的实践成效。
大模型备案是指利用生成式人工智能技术,向境内公众提供具有舆论属性或社会动员能力的生成文本、图片、音频、视频等内容服务的模型,依据《暂行办法》等法律法规履行的备案手续。其核心特征在于 “主动监管”,要求服务提供者对模型的安全性、数据合法性和内容可控性进行全面评估。例如,某公司自研的对话式大模型面向消费者提供智能客服服务,因其可能影响公众舆论,需进行备案。
大模型登记则是针对接入第三方已备案大模型 API 接口,且无微调、无独立训练数据的生成式服务的管理措施。与备案相比,登记更侧重于 “信息记录”,旨在对轻量级应用进行合规性引导。典型场景如某营销公司通过调用已备案的大模型 API 开发文案生成工具,由于未对模型进行实质性修改,只需完成登记手续。
大模型备案适用于自研或基于第三方已备案大模型进行二次开发的生成式AI应用。这类模型通常具备较强的舆论属性或社会动员能力,直接面向公众提供服务。例如,企业自主研发的AI聊天机器人、内容生成工具等,若涉及用户交互、内容生成等功能,均需进行备案。
大模型备案对象通常包括:
大模型登记适用于直接调用已备案大模型能力的生成式AI应用,且不涉及新增训练语料或模型的二次开发。这类模型通常用于轻量级应用,如通过API接口调用第三方大模型生成营销文案、内部知识库问答系统等。
大模型登记对象通常包括:
大模型备案的审核要求较为严格,需提交的材料包括:
此外,大模型备案流程包括:
大模型登记的审核要求相对简化,主要关注以下几点:
大模型登记流程包括:
大模型备案成功后,企业和开发者需继续遵守相关法律法规和监管要求,定期更新安全评估报告和相关信息。监管部门会对备案的大模型进行持续监管,确保其在使用过程中始终符合安全、合规的要求。
大模型登记成功后,企业和开发者也需遵守相关法律法规和监管要求,但后续监管可能相对宽松一些。主要关注是否出现新增训练语料或模型微调等情况。
大模型备案所需材料较为全面,包括但不限于:
备案流程较为复杂,需经过属地网信办初审且需要做模型安全测评和国家网信办复审。
大模型登记所需材料相对较少,通常包括:
大模型登记流程相对简化,只需通过属地网信办审批即可。
大模型备案的主要目的是确保模型的透明度和可追溯性,便于监管部门了解市场上存在的各种模型及其基本情况,从而更好地进行行业监管。
大模型登记的主要目的是保证服务的安全性和质量标准,保护最终用户的权益不受损害。
项目 | 大模型备案 | 大模型登记 |
---|---|---|
适用对象 | 自研或二次开发的生成式AI应用 | 直接调用已备案大模型能力的应用 |
审核要求 | 严格,需提交全面材料 | 简化,关注是否调用已备案模型 |
流程复杂度 | 复杂,需国家网信办复审 | 简化,仅需属地网信办审批 |
后续监管 | 持续监管,需定期更新 | 监管较宽松,关注是否新增训练 |
材料准备 | 材料全面,包括安全评估等 | 材料较少,基础信息为主 |
目的 | 确保模型透明度和可追溯性 | 保证服务安全性和质量 |
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。