即时通信 IM 云端审核

最近更新时间:2024-09-10 14:22:11

我的收藏
即时通信 IM 云端审核功能,是天御内容安全产品,在云端进行内容智能识别和拦截的服务实践。
支持对文本、图片内容同步审核,对音频、视频内容异步审核。
支持分别针对单聊、群聊、资料三大场景中产生的不同类型内容进行策略配置。
支持配置特定终端用户产生/接收的消息不送审,支持对返回审核结果进行配置。
支持查看审核用量抵扣明细、审核结果明细、审核识别统计等数据。
能够精准识别文本中出现可能令人反感、不安全或不适宜的内容,有效降低内容违规风险与有害信息识别成本。

步骤1:购买 IM 云端审核资源包

请前往 即时通信 IM 购买页,购买云端审核资源包。体验版、专业版、旗舰版应用均可购买,购买完成后即刻生效。
注意:
开通服务后,默认为您开启图文审核场景,并配置默认审核策略(可识敏感事件、敏感人物、色情、辱骂、违禁等不安全内容),您可通过单击对应模块的编辑按钮,分别更改审核场景和审核策略。

步骤2:开启 IM 云端审核功能开关

1. 登录 即时通信 IM 控制台,在左侧导航栏中,选择内容审核 > 云端审核
2. 在云端审核页面,单击页面右上角的

,开启云端审核服务。
注意:
如果您未提前购买云端审核资源包,在控制台直接开通云端审核服务后,产生的审核量将按照后付费计费规则扣除费用,请及时 购买云端审核资源包,计费规则详见 计费说明




步骤3:自定义审核配置

审核场景配置

打开云端审核服务开关后,默认为您开启了单聊的文本和图片审核、群聊的文本和图片审核、用户资料/群资料/群成员资料/关系链资料的文本审核。
1. 如果需要开启音频/视频审核,或者关闭图文审核开关,请单击对应场景模块右上角的管理配置


2. 在弹窗中,勾选或取消勾选对应审核项,单击确定即可。


注意:
单聊、群聊场景下,将音视/视频异步审核开启后,所有音频/视频都将正常送审并计费,但仅对存储在腾讯云即时通信 IM 的内容生效审核结果。如有自定义存储的音频/视频内容,请谨慎开启!如需审核自定义存储的音频/视频内容,请通过监听音频/视频审核结果的方式,进行拦载或撒回操作,详情请参见 返回审核结果 配置。

审核策略配置

每个审核场景及内容类型均已配置默认审核策略,默认审核策略包括敏感事件、敏感人物、色情、辱骂、违禁等风险的识别。如果需要编辑审核策略,请单击对应场景及内容类型右侧的编辑策略



文本/图片策略配置

单击编辑,修改通用识别策略配置与自定义库信息,单击确认保存配置。
通用识别策略配置:勾选需要识别的风险类型。
自定义库信息:勾选需要关联的自定义词库(最多可支持设置20个自定义词库)。


音频策略配置

单击编辑,修改通用识别策略配置、截帧策略配置与自定义库信息,单击确认保存配置。
通用识别策略配置:勾选需要识别的风险类型。
截帧策略配置:音频切片时长配置,支持滑动设定或填写整数,范围[1,60]。
自定义库信息:勾选需要关联的自定义词库(最多可支持设置20个自定义词库)。


视频策略配置

单击编辑,修改通用识别策略配置、截帧策略配置与自定义库信息,单击确认保存配置。
通用识别策略配置:勾选需要识别的风险类型,包括对图片和音频的识别。
截帧策略配置:审核内容配置,支持仅审核视频画面、仅审核音频和全部审核;图片截帧间隔,支持滑动设定或填写整数,范围[1,60];音频切片时长配置,支持滑动设定或填写整数,范围[1,60]。
自定义库信息:勾选需要关联的自定义词库(最多可支持设置20个自定义词库)。


复制策略

图文音视的编辑策略时,单击复制策略,可以将本策略复制到下拉选择的其他场景,单击确定

终端用户审核白名单配置

如果您不需要审核特定终端用户发送/接收的消息内容,您可以通过终端用户审核白名单模块进行配置。具体操作如下:
1. 在云端审核页面的终端用户审核白名单配置模块,单击添加


2. 在弹窗中,选择审核方式,输入终端用户 ID,单击确定


3. 在终端用户审核白名单配置模块,支持对已添加的终端用户 ID 编辑不送审方式、删除/批量删除添加白名单记录。

步骤4:审核结果配置

返回审核结果

审核结果可以通过配置基础回调的方式,将结果转发给 App 后台。具体操作如下:
1. 返回审核结果开关默认关闭,如果需要打开,单击审核结果配置模块右上角的编辑,打开返回审核结果开关,单击确定


2. 内容回调结果将发送至您在基础配置中配置的 URL 地址,如果您在开启返回审核结果开关前未配置基础回调 URL,请在打开开关时弹出的弹窗中填写基础回调 URL,详情请参见 配置指引文档


3. 开关开启后,内容回调的结果将通过基础回调抄送到 App 后台,支持拦截、所有结果的配置选项。
注意
App 后台在收到回调请求之后,务必校验请求 URL 中的参数 SDKAppID 是否是自己的 SDKAppID。

下发拦截错误码

针对图文同步审核,默认下发拦截错误码,即消息发送方会收到消息被拦截的错误码提示。
如果需要发送方对被消息拦截无感知,即发送方不需要收到消息下发失败的提示,可通过关闭“下发拦截错误码”开关实现。具体操作如下: 在审核结果配置模块,单击右上角的编辑,关闭“下发拦截错误码”开关,单击确定


注意
为方便您回溯消息未成功发送的原因,您需要在关闭“下发拦截错误码”开关前,开启 返回审核结果 开关,接收审核结果。

步骤5:查看审核明细和抵扣明细

查看审核明细

在云端审核页面的审核用量中,可查看今日审核用量数据。
注意
用量明细数据仅供参考,审核用量的计费数据以抵扣明细数据为准。



单击模块右上角的查看审核明细,可查看历史审核的明细数据。


单击模块右上角的查看识别统计,可查看历史审核的统计数据。



查看抵扣明细

1. 在云端审核页面,单击查看抵扣明细


2. 在抵扣明细页面,支持筛选、查看特定日期内审核产生用量的具体抵扣数据(每小时更新)。


3. 如果您已购买预付费资源包,可在资源包管理页面查看资源包可用量、有效期等信息。