从开发者视角看算法备案：技术团队需要做什么、怎么改、避什么坑

前言

算法备案听起来是法务和合规部门的事，但实际上，整个备案过程中最核心、最容易被打回的环节——算法安全自评估报告——几乎全靠技术团队提供数据和素材。备案能不能过，技术团队至少扛一半的活。

本文不重复法规科普（需要了解备案判定条件的可以搜《互联网信息服务算法推荐管理规定》），而是从工程师视角，聊聊备案过程中技术团队具体要做哪些事、系统要怎么改、报告里哪些技术数据是硬指标。

一、备案前的技术盘点

在开始填表之前，技术团队需要先做一轮全面的系统盘点，搞清楚三件事：

1. 我们的算法到底属于哪一类

五类算法（生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类）的判定，不是看产品叫什么名字，而是看核心功能逻辑。

举个例子：你做了一个智能客服，如果只是检索知识库返回预设答案，可能是"检索过滤类"；如果是调用大模型生成回答，那就是"生成合成类"。判定结果直接决定后续所有材料的技术方向，选错了一切白费。

建议做法：技术负责人和法务一起坐下来，把产品的核心功能拆成最小粒度的功能模块，逐个对照五类算法的判定标准。

2. 数据链路全梳理

备案要求说清楚数据的来源、处理、存储、销毁全链路。技术团队需要整理出：

- 训练数据：来源是什么（公开数据集、自采数据、第三方采购、用户生成）、有没有版权证明、是否做了脱敏/去标识化、数据存储在哪里、保存多久

- 输入数据：用户输入了什么、格式是什么、做了哪些预处理

- 输出数据：算法生成了什么、输出去哪了、是否存储、是否做了安全过滤

- 日志数据：用户操作日志保存了什么、保存多久（要求≥6个月）

这一步很费时间，但必须在动手写报告之前完成。很多人写报告时才发现数据链路说不清楚，回头去补，耽误时间。

3. 系统架构图和数据流转图

备案系统要求上传算法流程图。建议技术团队准备两张图：

- 系统架构图：展示从用户请求到算法输出的完整链路，包括网关、推理服务、安全过滤、日志存储等组件

- 数据流转图：展示数据从输入到输出的全生命周期，包括训练数据→模型训练→推理服务→输出→安全审核→返回用户的完整路径

这两张图不仅是备案材料，也是后面写自评估报告的基础。

二、安全评估报告中的技术硬指标

《算法安全自评估报告》是备案中最核心也最容易被打回的材料。以下是需要技术团队提供数据支撑的硬指标：

指标一：人工抽检语料 ≥4000条，合格率≥96%

这意味着你需要：

1. 从训练语料中随机抽取至少4000条

2. 安排人工逐条标注是否合规（涉及暴力、色情、政治敏感、歧视性内容等）

3. 计算合格率，不合格的要说明处理措施

实操建议：如果语料量大，可以用脚本先做第一轮技术筛查（敏感词匹配+分类模型初筛），再对筛选出的疑似违规内容做人工复核。但注意，技术筛查不能替代人工抽检，最终合格率的计算基数必须是人工标注的4000条。

指标二：技术筛查 ≥10%语料，合格率≥98%

这要求你对全部训练语料中至少10%做技术层面的安全筛查。具体做法：

- 使用敏感词库（建议≥1万个敏感词）做匹配过滤

- 使用内容安全分类模型做自动标注

- 统计技术筛查的覆盖率和合格率

指标三：敏感问题测试 ≥300条，拒答率≥95%

这一条是生成合成类算法特有的。需要准备至少300条"诱导性问题"——也就是故意试图让模型生成违规内容的输入，测试模型的拒答能力。

测试用例的设计要覆盖以下方向：

- 政治敏感类（如涉及国家领导人、重大历史事件的不当提问）

- 暴力犯罪类（如教唆犯罪方法）

- 色情低俗类

- 歧视性言论类（种族、性别、地域歧视）

- 虚假信息类（要求生成谣言或虚假新闻）

实操建议：这300条不是随便编的，要有覆盖面和代表性。建议参考公开的AI安全测试基准（如CValues、SafetyBench）来设计。同时要记录模型对每条测试的原始输出，以便后续审核时备查。

指标四：日志保存≥6个月

《互联网信息服务算法推荐管理规定》要求算法推荐服务提供者保存用户日志不少于6个月。技术团队需要确认：

- 日志存储方案是否满足6个月留存要求

- 日志内容是否完整（用户输入、算法输出、操作时间、用户标识等）

- 是否有日志防篡改机制

三、系统层面的合规改造

备案不只是提交材料，还需要在系统层面做合规改造。以下是常见的技术改造项：

1. AI生成内容标识

备案通过后，AI生成内容需添加显著标识。技术实现方式：

- 文本类内容：在输出文本前后添加标识，如"[AI生成]"前缀或末尾声明

- 图片类内容：添加不可见水印（如Stable Signature技术）+可见角标

- 音频类内容：添加音频水印或开头/结尾声明

- 视频类内容：添加水印叠加层

这是硬性要求，不做的产品无法通过审核。

2. 个性化推荐关闭功能

如果你的产品涉及个性化推送类算法，必须提供用户关闭个性化推荐的功能。技术实现要点：

- 在用户设置页面提供明确的开关

- 关闭后，算法应回退到默认排序或热度排序

- 关闭状态需要持久化，不能每次登录重置

- 需要记录用户的开关操作日志

3. 未成年人保护机制

- 如果产品面向未成年人或有未成年人使用可能，需要建立年龄识别机制

- 对未成年人用户的算法推荐内容需做额外过滤

- 需要有防沉迷机制（使用时长限制、夜间使用限制等）

4. 用户反馈与投诉通道

- 在产品中提供算法相关的反馈和投诉入口

- 技术团队需要建立反馈处理流程，记录处理结果

- 日志保存6个月以上

四、API安全设计

如果你的算法以API形式对外提供（这在B2B场景中很常见），备案要求你以"服务技术支持者"身份备案，API层面的安全设计也是审核重点：

1. 输入安全过滤

API网关层需要对输入做安全过滤：

用户请求 → API网关（输入安全检查）→ 推理服务 → 输出安全检查 → 返回

输入安全检查包括：敏感词过滤、prompt注入检测、长度限制、频次限制。

2. 输出安全审核

算法生成的结果在返回给用户之前，需要经过安全审核：

- 敏感内容分类（暴力、色情、政治、歧视等）

- 违规内容拦截（替换为预设的安全回复）

- 审核日志记录（原始输出+审核结果+处理方式）

3. 调用日志

每次API调用的日志需要完整记录：调用方标识、输入内容、输出内容、时间戳、安全审核结果。保存≥6个月。 五、备案过程中的协作建议

1. 技术团队和法务的分工

2. 时间线建议

总计前期准备约6-8周，加上审核周期，整个备案流程约3-5个月。建议在产品上线前至少提前半年启动。

六、常见技术问题FAQ

Q：我们用的是开源模型（如LLaMA），需要备案吗？

如果只是内部使用不需要。如果面向公众提供服务，需要。开源模型部署后面向公众提供服务属于"生成合成类"算法，需要备案。注意：如果对开源模型做了微调或加入了自有训练数据，还可能触发大模型备案义务（备案周期更长，约6-8个月）。

Q：我们调用的是已备案的大模型API（如通义千问、文心一言），还需要备案吗？

如果你只是纯API调用，没有对模型做任何调整，属于"大模型登记"范围，流程比备案简单。具体可咨询属地网信办。

Q：自评估报告里的安全测试数据，必须现在就跑完吗？

建议在提交前跑完，因为审核过程中可能要求补充数据。安全测试不是走过场，审核人员会看具体数值和覆盖范围。

Q：备案通过后模型迭代了，需要重新备案吗？

看迭代的性质。如果是常规参数微调、性能优化，通常不需要重新备案。但如果算法原理、数据类型、输出形式发生重大变更，需要在10个工作日内提交变更申请。