6步走I 大模型备案《通关手册》

简介: 本文依据《生成式人工智能服务管理暂行办法》,梳理企业上线大模型服务所需的备案流程、材料及注意事项,涵盖“是否需备案”“六步备案法”“安全评估重点”“特殊行业提示”等内容,助力企业合规落地。

本文基于《生成式人工智能服务管理暂行办法》等法规要求,梳理了企业在中国境内上线大模型服务所需完成的备案流程、核心材料与关键注意事项。


01、备案前确认

我的服务需要备案吗?

根据规定,符合以下条件的生成式人工智能服务需进行上线备案:

服务对象:面向境内公众提供服务。

服务内容:提供生成文本、图片、音频、视频等内容。

产品属性:具有“舆论属性或者社会动员能力”的AIGC产品。


类型

大模型备案

算法备案

全称

生成式人工智能(大语言模型)上线备案

互联网信息服务算法备案

法规

依据

《生成式人工智能服务管理暂行办法》
《人工智能生成合成内容标识办法》

《互联网信息服务算法推荐管理规定》
《互联网信息服务深度合成管理规定》

提交

途径

线下提交至属地(省)网信部门

线上提交:

互联网信息服务算法备案系统

审核

部门

属地网信办初审→中央网信办终审

中央网信办

备案

对象

🔸具有“舆论属性“或者”社会动员能力”AIGC产品;
🔸面向境内公众提供生成文本、图片、音频、视频等内容的服务的;
🔸含自研/微调/魔改/预训练等

🔹具有舆论属性或者社会动员能力;
🔹使用5大类算法推荐技术(生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类)面向境内用户提供服务;

提交

资料

《生成式人工智能上线备案申请表》
《附件1:安全评估报告》
《附件2:模型服务协议》
《附件3:语料标注规则》
《附件4:关键词拦截列表》
《附件5:评估测试题集》

营业执照
法人身份证
算法安全负责人身份证
工作证明
算法备案承诺书
《落实算法安全主体责任基本情况》
《算法安全自评估报告》
《拟公示算法机制机理内容》等

审核

方式

材料审核

+技术测试

材料审核

备案

结果

国家网信办官网统一公告
或属地网信办公众号不定期公告

互联网信息服务算法备案官网统一公告,系统可查

备案

周期

6-8个月

2-3个月

备案

说明

难度极大,可一次备案多个生成式功能和多个服务形态

难度较大, 一个算法下一个备案(可应用多个应用,如网站/APP/小程序/快应用等),不同的算法需分别备案


简单来说,如果您计划向国内普通用户提供文生文文生图等服务,或对大模型(自研/魔改/微调/预训练等)提供To C服务,通常都需要进行备案。


注意⚠️:大模型上线备案与“算法备案”(依据《互联网信息服务算法推荐管理规定》)是两项独立的备案,但大模型备案材料中会涉及算法备案情况。若您的服务也涉及深度合成等特定5类算法,可能需另行完成算法备案。



02、备案核心流程(6步走)

整个备案流程涉及企业与地方、中央两级网信部门的交互,建议整体预留6-8个月时间。


第一步:启动申请与信息填报

1.  联系属地网信办:主动与公司注册地或实际经营地所在的省级/市级网信办取得联系,表明大模型上线备案意向。

2.  领取并填写信息采集表:网信办会提供《生成式人工智能(大语言模型)备案信息采集表》。需详细填写: 企业基本情况:名称、性质、地址、规模等。

  • 功能服务:服务形式、主要功能、服务领域与范围。
  • 算法机理:模型参数规模、开发方式、已有的算法备案号等。
  • 训练语料:语料来源、规模、境内外部数据占比等。

3.  填写完毕后,加盖公司公章,将扫描件(PDF)和可编辑文件(WORD)发送至指定邮箱。


第二步:企业内部安全自评估与材料准备

(核心环节) 这是备案通过的关键,需准备一套完整的申报材料。主要材料清单如下:

材料名称

核心内容与要求

《生成式人工智能上线备案表》

正式申请表,需加盖公章。

《安全评估报告》(附件1)

最核心⭐文件。需详细阐述您对以下四方面的评估与保障措施:

• 语料安全:来源合法性、内容过滤、标注规则等。

• 模型安全:防止生成违法、歧视、虚假、侵权等内容的能力。

• 生成内容安全:上线后的内容过滤与审核机制。

• 安全措施:关键词拦截列表、拒答率设置、用户协议等。

《模型服务协议》(附件2)

面向用户的服务协议模板,需明确双方权责、内容规范、隐私条款等。

《语料标注规则》(附件3)

说明训练数据清洗、标注的标准与流程。

《拦截关键词列表》(附件4)

重要!需提供一个至少覆盖各类风险词的拦截词库(文档建议不少于10,000个关键词)。

《评估测试集》(附件5)

重要!用于测试模型安全性的题库,应包含:

• 生成内容测试题:≥2000题,覆盖各类风险场景。

• 拒答测试题:≥500题,用于测试模型对有害问题的拒答能力。

其他辅助材料

企业简介、国产芯片需求计划等。如有使用第三方已备案模型或采购商用语料,需提供授权或采购合同。


第三步:递交地方网信办审核与安全测试

1.  提交材料:将第二步准备好的全套材料提交给属地网信办。

2.  材料审核:网信办会对材料进行多轮审查,并提出修改意见,企业需配合完善。

3.  技术测试:在材料审核的同时或之后,网信办会安排安全测试。

📌企业需完成:按照网信办要求,对模型API接口进行规范适配,并提供5个已实名认证的、功能完整的测试账号供官方测试。


📌测试内容:官方会使用自有的庞大题库(规模可达几万到十几万题)对您的模型进行测试,涵盖基础风险提示词注入攻击多模态风险等。


第四步:属地公安机关安全检查

地方网信办初审通过后,属地公安机关可能会进行实地检查🔎,重点核查企业的网络安全管理制度、数据安全保护措施等。


第五步:中央网信办(国家网信办)终审

地方审核通过后,材料将上报至中央网信办进行最终审查。中央网信办可能也会组织一轮安全测试。


第六步:获取备案编号与公告

中央网信办终审通过后,会下发备案编号,并在其官方网站上进行公告,标志着您的模型已成功完成备案,可以正式上线服务。


03、特殊行业备案提示

若您的模型应用于特定行业(金融、医疗、教育),除网信办备案外,还需与相关行业主管部门进行预沟通,需要他们审核把关后再进行大模型备案。


监管部门针对端侧大模型的备案审查、与常态化管理过程中,核心关注如下问题:

  • 离线用户能否封禁?
  • 违规日志能否上报?
  • 突发事件能否处置?
  • 备案测试场景化+离线沙盒。


04、核心要点与建议

1.  全评估是重中之重:备案的核心是证明您的模型“安全可控”。《安全评估报告》、《拦截关键词列表》、《评估测试集》的质量直接决定审核结果。

2.  关键词与题库建设:提前建立庞大、精准的风险词库和测试题库,是应对官方技术测试的基础。

3.  预留充足时间:从材料准备到多轮审核、测试,流程复杂,务必提前规划,预留至少6个月。

4.  主动沟通:与属地网信办保持良好、主动的沟通,及时了解最新要求。

5.  区分备案类型:明确您需要办理的是“大模型上线备案”,它与深度合成算法备案”在依据法规、提交途径和审核部门上均有不同(上文已用表格对比)。


大模型上线备案是一项系统性的合规工程,企业需从模型研发初期就融入安全与合规思维,并组建跨部门(技术、法务、安全、产品)的团队共同推进。本文梳理的“六步法”和材料清单,可作为您启动备案工作的基础路线图。

目录
相关文章
|
5天前
|
数据采集 人工智能 安全
|
14天前
|
云安全 监控 安全
|
6天前
|
自然语言处理 API
万相 Wan2.6 全新升级发布!人人都能当导演的时代来了
通义万相2.6全新升级,支持文生图、图生视频、文生视频,打造电影级创作体验。智能分镜、角色扮演、音画同步,让创意一键成片,大众也能轻松制作高质量短视频。
1180 152
|
19天前
|
机器学习/深度学习 人工智能 自然语言处理
Z-Image:冲击体验上限的下一代图像生成模型
通义实验室推出全新文生图模型Z-Image,以6B参数实现“快、稳、轻、准”突破。Turbo版本仅需8步亚秒级生成,支持16GB显存设备,中英双语理解与文字渲染尤为出色,真实感和美学表现媲美国际顶尖模型,被誉为“最值得关注的开源生图模型之一”。
1837 9
|
11天前
|
人工智能 自然语言处理 API
一句话生成拓扑图!AI+Draw.io 封神开源组合,工具让你的效率爆炸
一句话生成拓扑图!next-ai-draw-io 结合 AI 与 Draw.io,通过自然语言秒出架构图,支持私有部署、免费大模型接口,彻底解放生产力,绘图效率直接爆炸。
747 152
|
8天前
|
SQL 自然语言处理 调度
Agent Skills 的一次工程实践
**本文采用 Agent Skills 实现整体智能体**,开发框架采用 AgentScope,模型使用 **qwen3-max**。Agent Skills 是 Anthropic 新推出的一种有别于mcp server的一种开发方式,用于为 AI **引入可共享的专业技能**。经验封装到**可发现、可复用的能力单元**中,每个技能以文件夹形式存在,包含特定任务的指导性说明(SKILL.md 文件)、脚本代码和资源等 。大模型可以根据需要动态加载这些技能,从而扩展自身的功能。目前不少国内外的一些框架也开始支持此种的开发方式,详细介绍如下。
549 5
|
13天前
|
人工智能 安全 前端开发
AgentScope Java v1.0 发布,让 Java 开发者轻松构建企业级 Agentic 应用
AgentScope 重磅发布 Java 版本,拥抱企业开发主流技术栈。
689 14