通用场景及策略配置
开通云端审核服务后,默认为您开启了六大通用场景的音视图文审核。如果需要调整关闭某一场景的某一消息类型的开关,请单击修改场景配置。
在弹窗中勾选/取消勾选对应项目,单击确定即可。
音视图文消息检测
按照业务所需,勾选/取消勾选 对应场景下的文本、图片、音频、视频类型内容即可。
注意:
单聊、群聊场景下,将音视/视频异步审核开启后,所有音频/视频都将正常送审并计费,对存储在腾讯云即时通信 IM 的文件会拦截。如有自定义存储的音频/视频内容,请谨慎开启!如需审核自定义存储的音频/视频内容,请通过监听音频/视频消息审核终端违规回调的方式,进行 UI 处理。
自定义消息检测
开启云端审核后,单聊、群聊的自定义消息默认当作文本送审。如果自定义消息结构为 json,只希望送审自定义消息的部分内容,可以参见如下方式:
方式一:按预设字段过滤送审
{"To_Account":"lumotuwe5","MsgRandom":121212,"MsgBody":[{"MsgType":"TIMCustomElem","MsgContent":{"Data":"{\\"key1\\":\\"value1\\",\\"message\\":\\"hello\\",\\"IMAuditContentType\\":\\"Text\\",\\"IMAuditContent\\":\\"hello\\"}","Desc":"hello","Ext":"www.qq.com","Sound":"dingdong.aiff"}}]}
参数说明:
字段 | 类型 | 说明 |
IMAuditContentType | String | 指定送审的内容类型:Text/Image/Audio/Video。 |
IMAuditContent | String | 指定送审的内容,如果类型为:Image/Audio/Video,该字段填文件 URL。 |
说明:
指定的字段,需要放置在自定义消息 json 结构体的第一层 kv 元素里面。该方式支持音视图文等消息的审核,当送审的内容为音视频的文件,违规的消息处置请参见 终端违规回调。如果一条自定义消息,有多个元素需要同时送审,支持按如下配置提取相应内容送审,最多支持10个元素审核:
{"IMAuditContents":[{"IMAuditContentType":"Text","IMAuditContent":"aaaa"},{"IMAuditContentType":"Image","IMAuditContent":"https://example.qq.com/1.jpg"}]}
方式二:按固定字段送审
每种自定义消息 json 结构体按照(单)多阶 key 值使用
.
拼接(string.string)的格式填写(最多两阶),支持多种 json 结构体按 |
拼(string|string.string)填写(最多三种)。其中 string 字符串不超过 60 个字符。
填写固定字段 data.content|content,其中 data.content 配置针对以下两种自定义消息 json 结构体过滤:
{"data":{"content": "123"},"avatar":"http://xxxxx"}{"data":"{\\"content\\":\\"123\\"}","avatar":"http://xxxxx"}
配置通用场景策略
每个审核场景及内容类型均已配置默认审核策略,默认识别并拦截包含高风险敏感事件/人物、高风险色情/辱骂/暴恐/违禁等内容,如果您需要更严格/更宽松的审核策略,或者您需要增加中、低风险内容审核策略,请按照下方指引操作。
如果需要编辑审核策略,请单击对应场景及内容类型右侧的编辑策略。
文本/图片策略配置:可以修改通用识别策略配置与自定义库信息。
通用识别策略配置:勾选需要识别的风险类型。
自定义库信息:勾选需要关联的自定义词库(最多可支持设置5个自定义词库)。
音频策略配置:可以修改通用识别策略配置、截帧策略配置与自定义库信息。
通用识别策略配置:勾选需要识别的风险类型。
截帧策略配置:音频切片时长配置,支持滑动设定或填写整数,范围[1,60]。
自定义库信息:勾选需要关联的自定义词库(最多可支持设置5个自定义词库)。
视频策略配置:可以修改通用识别策略配置、截帧策略配置与自定义库信息。
通用识别策略配置:勾选需要识别的风险类型,包括对图片和音频的识别。
截帧策略配置:审核内容配置,支持仅审核视频画面、仅审核音频和全部审核;图片截帧间隔,支持滑动设定或填写整数,范围[1,60];音频切片时长配置,支持滑动设定或填写整数,范围[1,60]。
自定义库信息:勾选需要关联的自定义词库(最多可支持设置5个自定义词库)。
复制策略:图文音视的编辑策略时,单击复制策略,可以将本策略复制到下拉选择的其他场景。
自定义审核场景及配置
单击添加,输入审核名称,勾选启用策略,单击确定,即可完成一个自定义配置的创建操作。
创建完成后,可在列表中,看到新创建的配置信息。单击复制图标,获取配置 ID:
当终端发送的消息需要指定自定义审核策略时,请通过创建自定义审核配置来获取配置 ID,在终端发消息接口中赋值;当针对不属于单聊、群聊、资料的场景(例如评论、动态、资讯等)进行音视图文内容审核时,可调用 主动审核 REST API 接口,接口使用的审核策略,请通过创建自定义审核配置来获取配置 ID 给 AuditName 赋值。