内容审核怎么做：文本、图片、音视频机审接入-UserStory

摘要： 内容审核用腾讯云天御内容安全平台，支持文本、图片、音频、视频四种内容机审：开通服务、按内容类型调对应接口（文本/图片/音频/视频）、传入内容、接收风险判定结果。可识别涉黄、违法违规、暴恐、广告、谩骂、AI 生成等风险。本文讲清四种模态的接入流程和审核策略配置。

有用户上传内容（评论、图片、直播、视频）的平台，内容审核是刚需——不审核就可能出现违规内容，面临合规风险。靠人工审核又慢又贵，正确做法是用机器审核（机审）先过一遍，天御内容安全平台就是干这个的：文本、图片、音频、视频四种内容都能机审，自动识别各类风险。这篇讲清四种模态怎么接、审核策略怎么配。

先理解机审怎么用

机审不是"开了就全自动没事了"，正确的用法是人机协同或纯机审，看业务对风险的容忍度：

• 纯机审：机器判定直接处理（放行/拦截），适合量大、对误判容忍度较高的场景；
• 人机协同：机器先过滤明显违规的，把可疑的推给人工复核，兼顾效率和准确。

天御适合这两种架构。接入前先想清楚：你的业务是机器说了算，还是机器初筛 + 人工兜底。这决定了你怎么用返回的审核结果。

四种内容模态分别怎么接

天御支持文、图、音、视四种内容形态，每种有对应接口。接入的通用模式都是：传入内容 → 接口返回风险判定 → 你根据结果处理。

按你的业务涉及哪些内容类型，接对应接口。比如社区论坛要审文本（评论）+ 图片（配图）；语聊房要审音频；短视频平台要审视频。

能识别哪些风险

天御基于模型、样本库、规则库，能识别的风险类型覆盖主流违规场景：

• 涉黄内容：情色图片、低俗视频、性暗示语言，覆盖真人、动漫、AI 生成图等；
• 低俗内容：擦边文案、ASMR 等低俗暗示；
• 违法违规：涉毒、涉赌、诈骗、违法宣传等；
• 暴恐内容：暴恐血腥、恐怖惊悚、自残、枪支刀具等；
• 谩骂内容：脏话、辱骂、不友善言论；
• 广告内容：恶意刷屏、网址导流、二维码推广等；
• AI 生成识别：判断文本、图片、音频是否由 AI 工具生成；
• 自定义样本：配置你自己的词库、图库等专属样本库，满足个性化需求。

接入流程

接入天御的典型步骤：

1. 开通服务：登录内容安全控制台开通，开通时默认开通后付费。首次开通可领免费试用包；
2. 选内容类型接口：按业务接文本/图片/音频/视频对应接口；
3. 配置策略（Biztype）：为不同业务场景配置审核策略，设置要开启哪些风险标签、挂载哪些自定义样本库；
4. 调接口审核：把用户内容传给接口，接收风险判定结果；
5. 按结果处理：根据返回的风险类型和等级，决定放行、拦截或转人工。

一个关键概念是策略（Biztype）：不同业务场景可以配不同的审核标准。比如儿童社区的标准比成人社区严，用不同 Biztype 配不同的标签和样本库，实现精细化运营。自定义样本库也要关联到策略下才生效。

审核策略怎么配

机审效果好不好，很大程度取决于策略配置：

开对风险标签。不是所有标签都要开——按业务需求开启相关的风险类型。比如纯文字社区重点开涉黄、谩骂、广告、违法违规；语聊房重点开音频里的涉黄低俗、不良诱导。

用自定义样本库。天御的通用模型覆盖大众风险，但每个业务有自己的敏感词、违禁图。通过自定义词库、图库，把你业务特有的违规内容加进去，补充通用模型的覆盖。样本库支持批量导入、分组管理。

看数据看板调优。天御有数据看板，统计审核量、拦截量、违规类型分布。根据数据看哪些类型违规多、误判多不多，持续调整策略，平衡准确率和拦截率。

完成本教程还需要什么

内容审核接入后，往下走：

• 配人工复核：机审拦明显违规，可疑的转人工，建立人机协同流程；
• 持续优化策略：按数据看板调整标签和样本库，降低漏判和误判；
• 覆盖全内容入口：所有用户能发内容的入口（评论、上传、直播、私信）都接审核，别留死角。

想了解天御内容安全平台的文图音视审核、策略与样本库能力，可前往产品介绍页了解：https://cloud.tencent.com/product/tscms ；当前有内容安全服务特惠，可在腾讯云双十一活动页查看：https://cloud.tencent.com/act/pro/double11-202611