内容安全审核

最近更新时间:2024-10-17 16:18:11

我的收藏
天御以人工智能为核心,以腾讯海量互联网数据为基础,结合腾讯20年黑产攻防的经验,打造AI时代的智能风控服务。帮助业务方在流量风控、身份风控、金融风控、内容风控等领域预防欺诈识别风险、为客户业务保驾护航。

前提条件

1. 进入实时音视频控制台,选择 应用管理
2. 选择需要配置回调的应用,单击其右侧操作栏配置
3. 进入详情页,单击内容安全审核页签。

审核配置

应用管理中所有应用涉及使用的审核服务均在此配置,单击审核配置,配置开启的审核服务并完成服务角色授权用于存储审核结果。 每个应用(Sdkappid)在使用审核服务前需要进行审核服务开通,首次开通服务可免费试用36000张图片与600分钟音频识别服务,试用套餐包有效期为1个月(每个账号仅可领取一次)。



审核服务支持手动自定义审核和全局自动审核:
手动自定义审核:默认开启,需要开发者自行管理审核任务的发起,支持指定房间进行单流、混流审核,详情请参见 手动审核
全局自动审核:客户可指定审核策略和审核流类型,TRTC云端自动帮忙完成应用下所有房间内的音视频内容审核,并通过回调把违规信息发送给客户指定的回调 URL,无需手动发起审核。如需使用自动审核,请单击右上角的编辑进行开启。(开启全局自动审核后,请勿再发起手动审核,否则会产生冲突导致审核失败。



配置项
说明
审核模式
支持手动自定义审核(默认)和全局自动审核
审核类型
直播视频审核:将对房间内的音视频流进行审核,适用于视频通话、互动直播应用
直播音频审核:仅对房间内的音频流进行审核,适用于语音聊天应用
审核流类型
单流:将房间内的每一路音视频流进行单独审核
混流:将房间内的所有音视频混合成一路进行审核
开启辅流审核
开启屏幕分享辅流的审核,若不开启则仅审核摄像头采集主流。
审核策略场景
默认提供音视频场景下的审核策略:音视频互动直播场景,您可在此基础上进行修改审核策略
回调地址
审核过程中接受审核信息回调的地址,回调 URL 协议头:HTTP、HTTPS 等,仅可包含以下字符:a-z 、A-Z、0-9、-、_、?、%、=、#、.、/和+。
回调密钥
保证回调数据的安全性。
说明:
开启自动审核后,生效期10分钟,生效后当前应用下新创建的房间内的音视频将会发起自动审核。

审核策略配置

我们为音视频场景客户提供了一个默认的审核策略:音视频互动直播,其他包含了直播音视频审核的策略(视频流内容安全)和直播音频审核的策略(音频流内容安全),您可以基于当前应用的业务场景分别对齐进行调整。




直播视频审核策略配置

您可以勾选需要开启的风险词库。
最多可关联5个自定义词库。
截帧策略配置:
可以设置审核内容:全部内容、仅音频、视频。
可以分别设置音频截帧间隔、图片截帧间隔以及回调方式。




直播音频审核策略配置

可以勾选需要开启的风险词库。
最多可关联5个自定义词库。
截帧策略配置:您可以设置音频截取间隔以及回调方式。




自定义词库

每个应用单独使用一个自定义库,您可以根据业务需要在审核策略中进行词库关联。

添加词库




匹配方式仅首次编辑时可以选择,保存后无法修改。
精准匹配:1V1对输入的文本进行匹配,遇到与输入文本一致的会直接命中输出。
模糊匹配:可检测变体后的输入词,支持拆分字、形似字、音似字、简繁体、大小写、大写数字等形式的相似词进行匹配。
默认关键词数量上限为2000个。




编辑自定义库




您可以对已有自定义词库进行编辑,添加或删除已有关键词、修改词库名称。
确定删除词库,系统将不再保存词库及词库下关键词信息,请您谨慎操作 。
当前需要删除的词库如果已关联场景中的审核策略,需要先在对应场景下的策略管理中对词库进行解绑,再进行词库的删除操作。




关联场景

1. 您可以将自定义的关键词在策略管理中关联到对应的策略中。



2. 关联之后,您可以查看当前自定义词库已关联场景及审核策略信息。