随着ChatGPT、文心一言、通义千问、豆包等大模型产品的快速发展,生成式人工智能服务备案已成为AI企业关注的重点合规事项。很多企业不清楚自己的AI产品是否需要备案、备案和登记有什么区别、需要准备哪些材料。本文将全面解析生成式人工智能服务备案要求,帮助企业准确判断是否需要办理大模型备案。
一、什么是生成式人工智能服务?
生成式人工智能(Generative AI)是指利用人工智能技术,根据用户输入自动生成文本、图片、音频、视频、代码等内容的技术和服务。
常见场景包括:
AI聊天机器人
AI智能客服
AI写作平台
AI绘画平台
AI视频生成平台
AI数字人平台
AI代码生成工具
AI教育助手
AI办公助手
例如:
ChatGPT
文心一言
通义千问
腾讯混元
豆包
都属于典型的生成式人工智能服务。
二、生成式人工智能服务一定要备案吗?
答案是:
并非所有AI产品都需要备案。
企业是否需要备案,主要取决于:
是否向公众提供服务;
是否具备生成内容能力;
是否属于生成式人工智能服务;
是否具有舆论属性或社会动员能力。
目前监管实践中,面向中国境内公众提供生成式人工智能服务的企业,需要按照相关规定履行备案或登记义务。
三、哪些企业需要办理大模型备案?
1、自研大模型企业
企业自主训练或深度微调大模型,并向公众提供服务。
例如:
AI问答平台
AI写作平台
AI绘画平台
AI视频生成平台
AI搜索平台
这类企业通常需要办理:
✅ 大模型备案
✅ 算法备案
2、行业大模型企业
例如:
医疗大模型
法律大模型
金融大模型
教育大模型
如果向社会公众开放服务,同样需要开展备案工作。
3、多模态AI平台
例如:
文生图
图生图
文生视频
AI数字人
涉及生成内容能力的大模型产品,一般需要纳入备案管理。
四、哪些情况可能不需要大模型备案?
企业内部使用
例如:
企业知识库
内部办公助手
内部研发工具
仅限企业员工使用,不面向公众开放。
一般无需办理大模型备案。
调用第三方已备案模型
例如企业直接接入:
通义千问
文心大模型
豆包大模型
腾讯混元
自身不训练基础模型。
此类情况通常按照生成式人工智能登记管理要求执行,而非重新申请大模型备案。
普通AI功能
例如:
OCR识别
语音识别
图像识别
人脸识别
不属于生成式人工智能服务。
一般无需办理大模型备案。
五、大模型备案需要满足哪些条件?
企业申请大模型备案通常需要具备以下条件:
(一)合法经营主体
需要具备:
营业执照
合法经营资格
完整主体信息
(二)拥有实际运营产品
产品形式包括:
APP
网站
小程序
AI平台
备案针对实际运营服务,而不是单纯技术研究项目。
(三)具备内容安全能力
企业需要建立:
内容审核机制
敏感词过滤机制
风险识别机制
人工审核机制
确保生成内容安全可控。
(四)建立数据安全制度
包括:
数据管理制度
用户隐私保护制度
数据安全管理制度
应急处置机制
(五)完成安全评估
企业需要开展:
模型安全评估
数据安全评估
内容安全评估
风险控制评估
这是备案审核的重要内容。
六、大模型备案需要准备哪些材料?
主体材料
包括:
营业执照
法人身份证
联系人身份证
企业基本情况介绍
产品材料
包括:
产品介绍
产品功能说明
产品截图
用户使用流程
模型材料
包括:
模型名称
模型架构说明
训练方式说明
数据来源说明
技术原理说明
安全制度材料
包括:
数据安全制度
内容审核制度
用户管理制度
应急预案
安全评估材料
包括:
安全自评估报告
风险分析报告
内容治理机制说明
实际审核过程中,安全评估报告往往是审核重点。
七、大模型备案办理流程
第一步:开展合规评估
确认产品是否属于:
生成式人工智能服务
大模型备案范围
第二步:准备备案材料
整理:
主体资料
产品资料
模型资料
安全资料
第三步:提交备案申请
通过属地网信部门指定系统进行申报。
第四步:审核评估
监管部门重点审核:
模型能力
数据来源
安全机制
内容治理能力
风险控制能力
第五步:整改补充
根据审核意见补充材料或完善制度。
第六步:备案公示
审核通过后获得备案编号,并进入备案公示名单。
八、大模型备案和算法备案有什么关系?
很多企业会同时涉及两类备案。
简单理解:
| 项目 | 大模型备案 | 算法备案 |
|---|---|---|
| 监管对象 | 大模型 | 推荐算法 |
| 适用场景 | AI生成内容 | 内容推荐排序 |
| AI问答 | √ | √ |
| AI写作 | √ | √ |
| AI绘画 | √ | √ |
| 电商推荐 | × | √ |
| 信息流推荐 | × | √ |
对于大部分面向公众的AI产品而言:
通常需要同时评估算法备案和大模型备案要求。
九、企业为什么要尽早办理备案?
随着人工智能监管持续完善,备案已成为AI产品合规运营的重要前提。
完成备案有助于:
降低合规风险;
提高用户信任度;
满足应用市场审核要求;
满足融资尽调要求;
满足政企客户采购要求;
提升品牌公信力。
对于计划上线AI产品的企业,建议在研发阶段同步开展备案规划,而不是等产品上线后再补办相关手续。
结语
生成式人工智能服务备案是当前AI行业的重要合规要求。对于自研大模型并向公众提供AI问答、AI写作、AI绘画、AI视频生成等服务的企业,通常需要办理大模型备案;对于调用第三方已备案模型开发应用的企业,则需要根据实际情况办理生成式人工智能登记。企业应根据产品形态、技术架构和运营模式提前开展合规评估,避免因备案问题影响产品上线和商业合作,实现人工智能业务长期健康发展。