本文基于《生成式人工智能服务管理暂行办法》等法规要求,梳理了企业在中国境内上线大模型服务所需完成的备案流程、核心材料与关键注意事项。
01、备案前确认
我的服务需要备案吗?
根据规定,符合以下条件的生成式人工智能服务需进行上线备案:
➢ 服务对象:面向境内公众提供服务。
➢ 服务内容:提供生成文本、图片、音频、视频等内容。
➢ 产品属性:具有“舆论属性或者社会动员能力”的AIGC产品。
类型 |
大模型备案 |
算法备案 |
全称 |
生成式人工智能(大语言模型)上线备案 |
互联网信息服务算法备案 |
法规 依据 |
《生成式人工智能服务管理暂行办法》 |
《互联网信息服务算法推荐管理规定》 |
提交 途径 |
线下提交至属地(省)网信部门 |
线上提交: 互联网信息服务算法备案系统 |
审核 部门 |
属地网信办初审→中央网信办终审 |
中央网信办 |
备案 对象 |
🔸具有“舆论属性“或者”社会动员能力”AIGC产品; |
🔹具有舆论属性或者社会动员能力; |
提交 资料 |
《生成式人工智能上线备案申请表》 |
营业执照 |
审核 方式 |
材料审核 +技术测试 |
材料审核 |
备案 结果 |
国家网信办官网统一公告 |
互联网信息服务算法备案官网统一公告,系统可查 |
备案 周期 |
6-8个月 |
2-3个月 |
备案 说明 |
难度极大,可一次备案多个生成式功能和多个服务形态 |
难度较大, 一个算法下一个备案(可应用多个应用,如网站/APP/小程序/快应用等),不同的算法需分别备案 |
简单来说,如果您计划向国内普通用户提供文生文、文生图等服务,或对大模型(自研/魔改/微调/预训练等)提供To C服务,通常都需要进行备案。
注意⚠️:大模型上线备案与“算法备案”(依据《互联网信息服务算法推荐管理规定》)是两项独立的备案,但大模型备案材料中会涉及算法备案情况。若您的服务也涉及深度合成等特定5类算法,可能需另行完成算法备案。
02、备案核心流程(6步走)
整个备案流程涉及企业与地方、中央两级网信部门的交互,建议整体预留6-8个月时间。
第一步:启动申请与信息填报
1. 联系属地网信办:主动与公司注册地或实际经营地所在的省级/市级网信办取得联系,表明大模型上线备案意向。
2. 领取并填写信息采集表:网信办会提供《生成式人工智能(大语言模型)备案信息采集表》。需详细填写: 企业基本情况:名称、性质、地址、规模等。
- 功能服务:服务形式、主要功能、服务领域与范围。
- 算法机理:模型参数规模、开发方式、已有的算法备案号等。
- 训练语料:语料来源、规模、境内外部数据占比等。
3. 填写完毕后,加盖公司公章,将扫描件(PDF)和可编辑文件(WORD)发送至指定邮箱。
第二步:企业内部安全自评估与材料准备
(核心环节) 这是备案通过的关键,需准备一套完整的申报材料。主要材料清单如下:
材料名称 |
核心内容与要求 |
《生成式人工智能上线备案表》 |
正式申请表,需加盖公章。 |
《安全评估报告》(附件1) |
|
最核心⭐文件。需详细阐述您对以下四方面的评估与保障措施: • 语料安全:来源合法性、内容过滤、标注规则等。 • 模型安全:防止生成违法、歧视、虚假、侵权等内容的能力。 • 生成内容安全:上线后的内容过滤与审核机制。 • 安全措施:关键词拦截列表、拒答率设置、用户协议等。 |
|
《模型服务协议》(附件2) |
面向用户的服务协议模板,需明确双方权责、内容规范、隐私条款等。 |
《语料标注规则》(附件3) |
说明训练数据清洗、标注的标准与流程。 |
《拦截关键词列表》(附件4) |
重要!需提供一个至少覆盖各类风险词的拦截词库(文档建议不少于10,000个关键词)。 |
《评估测试集》(附件5) |
重要!用于测试模型安全性的题库,应包含: • 生成内容测试题:≥2000题,覆盖各类风险场景。 • 拒答测试题:≥500题,用于测试模型对有害问题的拒答能力。 |
其他辅助材料 |
企业简介、国产芯片需求计划等。如有使用第三方已备案模型或采购商用语料,需提供授权或采购合同。 |
第三步:递交地方网信办审核与安全测试
1. 提交材料:将第二步准备好的全套材料提交给属地网信办。
2. 材料审核:网信办会对材料进行多轮审查,并提出修改意见,企业需配合完善。
3. 技术测试:在材料审核的同时或之后,网信办会安排安全测试。
📌企业需完成:按照网信办要求,对模型API接口进行规范适配,并提供5个已实名认证的、功能完整的测试账号供官方测试。
📌测试内容:官方会使用自有的庞大题库(规模可达几万到十几万题)对您的模型进行测试,涵盖基础风险、提示词注入攻击、多模态风险等。
第四步:属地公安机关安全检查
地方网信办初审通过后,属地公安机关可能会进行实地检查🔎,重点核查企业的网络安全管理制度、数据安全保护措施等。
第五步:中央网信办(国家网信办)终审
地方审核通过后,材料将上报至中央网信办进行最终审查。中央网信办可能也会组织一轮安全测试。
第六步:获取备案编号与公告
中央网信办终审通过后,会下发备案编号,并在其官方网站上进行公告,标志着您的模型已成功完成备案,可以正式上线服务。
03、特殊行业备案提示
若您的模型应用于特定行业(金融、医疗、教育),除网信办备案外,还需与相关行业主管部门进行预沟通,需要他们审核把关后再进行大模型备案。
监管部门针对端侧大模型的备案审查、与常态化管理过程中,核心关注如下问题:
- 离线用户能否封禁?
- 违规日志能否上报?
- 突发事件能否处置?
- 备案测试场景化+离线沙盒。
04、核心要点与建议
1. 安全评估是重中之重:备案的核心是证明您的模型“安全可控”。《安全评估报告》、《拦截关键词列表》、《评估测试集》的质量直接决定审核结果。
2. 关键词与题库建设:提前建立庞大、精准的风险词库和测试题库,是应对官方技术测试的基础。
3. 预留充足时间:从材料准备到多轮审核、测试,流程复杂,务必提前规划,预留至少6个月。
4. 主动沟通:与属地网信办保持良好、主动的沟通,及时了解最新要求。
5. 区分备案类型:明确您需要办理的是“大模型上线备案”,它与“深度合成算法备案”在依据法规、提交途径和审核部门上均有不同(上文已用表格对比)。
大模型上线备案是一项系统性的合规工程,企业需从模型研发初期就融入安全与合规思维,并组建跨部门(技术、法务、安全、产品)的团队共同推进。本文梳理的“六步法”和材料清单,可作为您启动备案工作的基础路线图。