内容审核

最近更新时间:2024-08-26 16:32:01

我的收藏

审核确定部分与不确定部分如何区分?

数据万象审核为打分制,对于每一张图片均有一个0 - 100的分值。
确定部分指确定是敏感图片和确定正常的图片,分值在[0,60]和(90,100]区间,我们认为图片置信度比较明确,无需用户人为干预。
不确定部分指疑似敏感图片,系统无法明确区分是否为敏感内容,分值在(60,90]区间,建议用户根据自身业务对审核强度的需求来指定分数阈值。

如何提交视频审核任务?

数据万象可通过 CreateVideoAuditingJob 接口 提交一个视频审核任务。视频审核功能为异步任务方式,您可以通过提交视频审核任务审核您的视频文件,然后通过 查询视频审核任务接口视频审核回调 查询审核结果。

视频审核能否解压带密钥的 zip 文件?

数据万象视频审核不支持解压带密钥的 zip 文件。

使用了内容审核功能,为什么还会收到违规邮件?

如果您已使用内容审核功能,通常有以下几种情况仍然接收到违规邮件:
1. 您配置的审核策略覆盖不全,例如仅审核涉黄场景,但政治敏感、暴力血腥等场景也属于违法违规场景。建议您至少开启黄暴政三种审核场景,全面整顿违法违规内容。
2. 对于审核出来的违规文件,您没有及时处理,建议您在接收到审核结果时,对违规的文件立即进行删除或者更改权限为私有读的处理。如果您使用的是自动审核功能,建议您开启自动冻结。
3. 如果您的违规数据较多,场景较复杂,使用默认的模型可能会存在少量的识别不准确的情况,您可以提交工单反馈给我们进行模型调整,使审核结果更准确。

图片审核仅回调违规图片是指分数在什么区间范围的?

数据万象图片审核仅回调违规图片系统默认是指分数在90分以上。您也可以自定义回调阈值,如图:
image.png



数据万象如何设置审核策略?

一、默认策略(预设)
每种文件类型都拥有一个默认的审核策略,默认审核策略是腾讯云根据您的历史审核情况默认配置的,若您没有使用过审核服务,则默认策略为算法专家经过多行业模型沉淀的策略配置,适用于大部分的内容安全需求。
说明:
默认策略允许查看、编辑,不允许删除。
二、自定义策略
如果默认策略无法满足您的业务或您有多种场景需要搭配不同的审核策略,则可以创建自定义审核策略。
1. 登录 数据万象控制台 ,在存储桶管理页面选择并单击需操作的存储桶名称,进入存储桶管理页面。
2. 在左侧导航栏中,选择内容审核 > 审核策略,进入审核策略页面。
3. 根据您的需求选择创建对应的审核策略,目前支持创建图片审核策略、视频审核策略、音频审核策略、文本审核策略、文档审核策略。以图片审核策略为例:
单击创建图片审核策略,填写策略名称。
审核分类下选择您需要审核的类别,其中色情- 文本审核表示对图片内容进行OCR识别审核。

image.png


单击保存,即可完成策略创建。
4. 审核策略创建好后,后台会自动生成一个唯一的Biztype值。
5. 对于已创建好的审核策略,您可以进行查看或编辑,编辑时不允许修改策略名称和Biztype值。
image.png


三、使用审核策略
审核策略创建完毕后,在配置 自动审核 历史数据审核任务 任务、调用 内容审核API接口 时,您需要选择对应的策略,即可在审核时按自定义的分类进行审核。

数据万象内容审核是否支持自定义违禁内容?

如果现有的审核策略场景均无法匹配您的内容,您可以将图片添加至自定义风险库,详情请查看自定义风险库

数据万象支持审核哪些数据?

支持审核腾讯云 COS 上的文件。
支持审核第三方云存储厂商的文件 URL。
支持审核本地图片文件,需要先进行 base64编码。审核本地图片文件请调用 图片批量审核接口

数据万象图片审核有哪些限制?

图片文件大小支持:支持审核32MB以下的图片。对于大小超过5MB的图片,您需要在调用请求时,使用 large-image-detect 参数。
图片文件分辨率支持:最小支持分辨率为20x20,建议分辨率大于256x256,否则可能会影响识别效果。
图片文件支持格式:JPG/JPEG、PNG、GIF、BMP、WebP、HEIF 格式图片。
图片文件链接支持的传输协议:HTTP、HTTPS。

数据万象图片审核请求是同步还是异步的?

图片审核支持同步、异步两种请求方式,您可以按需调用。

数据万象图片审核出违规的图片如何处理?

针对违规的图片,如果您的图片存储在腾讯云上,我们建议您进行冻结或删除处理,冻结是指将图片的访问权限更改为私有读方式。

内容审核回调 URL 怎么配置?

配置了审核回调地址后,在审核结束后,后台会将审核结果以 json 形式回调至您的回调地址。您可以通过回调内容,进行后续的文件处理操作。如果您不清楚如何搭建一个接收回调数据的服务,可以参考 如何快速部署一个接收回调数据的服务器

内容审核可以直接审核文字吗?

可以调用文本审核 API 直接审核文本内容。

数据万象内容审核必须将文件类型设置为公有读写吗?

目前内容审核不限制是否必须将文件类型设置为公有读写,私有读写也是可以进行内容识别的。