数据万象×"清朗·整治 AI 应用乱象"专项行动｜合规接入指引

云存储

发布于 2026-05-21 14:48:42

1440

2026 年 4 月 30 日，中央网信办部署开展"清朗·整治 AI 应用乱象"专项行动，行动周期为 4 个月，分两个阶段、共 14 类突出问题集中整治，对生成式 AI 服务的内容审核能力与生成合成内容标识能力提出了明确要求。

腾讯云数据万象（Cloud Infinite，下称"数据万象"或"CI"）作为腾讯云面向多媒体数据的一站式处理服务，已围绕本次专项行动构建完整能力体系，覆盖《人工智能生成合成内容标识办法》第四条、第五条全部要求，包括四项核心能力——内容审核、显式水印（对应显式标识）、AIGC 元数据标识（对应元数据隐式标识）、隐式水印（图片盲水印 / 视频数字水印）（对应数字水印形式隐式标识）。本文面向有相关合规需求的企业客户，介绍可直接使用的产品能力、推荐的整改路径，以及对应的官方文档入口。

一、专项行动重点要求摘要

本次专项行动分两阶段，与多媒体内容合规直接相关的重点条款如下：

第一阶段（AI 应用服务典型违规问题专项治理，共 7 类）中：

第 2 类：AI 平台安全和审核过滤能力不足，包括模型底层安全能力缺失、缺乏安全围栏机制、生成违法不良信息等。
第 5 类：生成合成内容标识落实不到位，包括未按《人工智能生成合成内容标识办法》及配套强制性标准添加显式标识、未落实跨平台隐式标识互识互认义务、对生成合成内容识别能力不足等。

第二阶段（AI 信息内容乱象整治，共 7 类）中：

涉及暴力低俗、未成年人权益、AI 水军、违规 AI 产品服务（色情陪聊）等，均需要平台具备稳定可靠的多模态内容审核能力。

配套法规依据：

上述"生成合成内容标识"要求源自《人工智能生成合成内容标识办法》（2025 年 9 月 1 日施行）。其中第四条规定显式标识为"应当"添加；第五条第一款规定文件元数据隐式标识为"应当"添加，第五条第二款进一步规定"鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识"。即"应当 + 鼓励"双重要求构成完整的标识合规体系。

二、数据万象对应的四项核心能力

（一）内容审核

数据万象内容审核面向多模态内容提供端到端识别与处置能力，覆盖图片、视频、音频、文本、文档等场景。

主要能力包括：

多场景识别：覆盖涉政敏感、色情低俗、暴恐血腥、违法犯罪、广告引流、未成年人保护、不良场景等违规类型，支持针对 AI 生成内容的低俗擦边、暴力血腥、价值导向偏差等专项识别。
大模型出口审核：支持串联在大模型/AIGC 模型输出环节，对生成内容进行实时审核与拦截。
自定义策略与样本库：支持业务自定义敏感词、违规图库及行业语料，匹配业务场景。
大规模稳定服务：底层模型与腾讯多个大型业务场景同源，具备高并发、低延迟的处理能力。

对应专项行动条款：第一阶段第 2 类，第二阶段第 4、5、6、7 类。

（二）显式水印（对应《标识办法》"显式标识"要求）

显式标识要求"用户可感知"，需在内容本体或周边添加肉眼/耳可识别的提示。数据万象通过显式水印能力满足该要求：

图片：自动添加文字水印，支持位置、透明度、字号自适应。
视频：在画面持续显示提示水印，并在片头、片尾添加显式标识。
音频：在起始与结尾添加语音播报式提示。
文档：在文档中添加显式水印或提示文字。

对应专项行动条款：第一阶段第 5 类（"显式标识"部分）。

（三）AIGC 元数据标识（对应《标识办法》"隐式标识"要求）

隐式标识要求按国家强制性标准将生成合成信息写入文件元数据，并支持跨平台互识互认；同时需具备对生成合成内容的识别检测能力。数据万象通过 AIGC 元数据标识及标识检测能力满足该要求：

隐式标识写入：

按国家强制性标准规范写入文件元数据（包括生成主体、唯一标识符等字段），覆盖图片、音视频、文档等格式。

标识检测：

检测图片、音视频、文档数据是否携带合规 AIGC 元数据标识。

对应专项行动条款：第一阶段第 5 类（"隐式标识"及"识别检测"部分）。

（四）隐式水印（对应《标识办法》第五条）

能力说明：数据万象隐式水印能力可将水印图或自定义文字以人眼不可见形式嵌入图片频域或视频载体，被裁剪、压缩、转码、截屏后仍可提取。

图片盲水印：

直接将文字信息（如服务提供者编码、内容编号、用户 ID）嵌入图片，与第五条要求的"生成合成内容属性信息、服务提供者名称或者编码、内容编号"等要素天然契合。
抗攻击：抗裁剪、抗缩放、抗压缩、抗截屏，对原图画质影响极低。

视频数字水印：

支持将图片或字符串隐藏在视频中，不破坏视频画面完整性与观赏性。
抗裁剪、转码、特效、旋转、滤镜等多种攻击。
用于确认创作者、版权所有人、传播者，以及判断视频是否被篡改。

典型使用场景：

AIGC 平台为 AI 生成图片 / 视频嵌入服务提供者编码及内容编号，作为元数据隐式标识的补充与冗余；
内容社区为原创素材添加盲水印，盗用后可提取水印鉴权追责；
媒资库批量入库时通过工作流自动嵌入水印，零代码改造。

对应专项行动条款：第一阶段第 5 类（"隐式标识"鼓励性条款），同时具备版权保护增强价值。

三、整体合规链路

数据万象与对象存储 COS 原生集成，可实现"上传即审核、生成即标识"。整体链路如下：

接入方式包括 API、SDK 与控制台配置。已使用 COS 的客户可通过工作流模式实现零代码接入。

四、推荐接入对象

以下业务类型与本次专项行动直接相关，建议结合自身合规要求开展自查与接入：

AIGC 内容生产平台：图片/视频/音频生成、虚拟人、AI 写作、AI 配音；
大模型应用服务：对话机器人、智能体、AI 搜索；
UGC 社区：短视频、社交、笔记、直播；
在线教育、金融、医疗客服等行业服务；
AI 编辑类工具：换脸、修图、剪辑、特效、TTS 等。

五、整改路径建议（三步法）

数据万象团队结合已落地客户经验，建议按以下三步推进合规整改，标准客户可在 1~2 个工作日内完成全部接入。

第一步：合规体检（0.5 个工作日）

在腾讯云控制台开通数据万象服务。
通过内容审核存量扫描功能，对历史图片、视频、音频进行全量审核。
通过 AIGC 标识检测功能，对历史内容中疑似 AI 生成的素材进行合规扫描。

第二步：能力接入（0.5~1 个工作日）

可二选一，或组合使用：

路径 A：工作流模式（推荐） 在控制台配置触发规则，新上传内容自动调用内容审核、显式水印与 AIGC 元数据标识；违规内容自动冻结，合规内容正常分发。无需代码改造。
路径 B：API/SDK 主动调用模式 在大模型出口实时调用审核接口，生成完成后分别调用显式水印接口与 AIGC 元数据标识接口，业务下发前调用标识检测接口。适合需要深度集成的场景。

第三步：长效治理（持续运行）