在个人直播录制、UGC 短视频等场景中,视频内容是不可预知的。为了避免一些违规内容出现在点播平台上,开发者会要求先对上传的视频做审核,确认合规后再进行转码和分发。腾讯云短视频解决方案支持对视频进行 AI 鉴黄,自动识别视频是否涉及色情内容。
使用 AI 鉴黄
AI 鉴黄功能需要集成在视频处理任务流中使用,它依赖于云点播后台的 视频 AI - 内容审核,审核结果通过事件通知的方式来通知 App 后台服务。云点播内置了一个任务流 QCVB_ProcessUGCFile 用于 UGC 短视频鉴黄场景,当用户使用该任务流并指定进行 AI 鉴黄时,鉴黄操作将优先执行,并根据鉴黄结果来决定是否进行后续处理(转码、打水印和截图等)。流程图如下:
AI 模板介绍
模板 ID | 涉黄处理 | 采样频率 |
10 | 终止任务流(转码、打水印、截图等均不会执行) | 时长小于500秒的视频,每1秒采样1次 时长大于或等于500秒的视频,每1%时长采样1次 |
20 | 继续执行任务流 | 无 |
AI 鉴定接入示例
步骤1:在生成上传签名时提交 AI 鉴黄任务
/*** 响应签名请求并上传带有 AI 鉴黄任务*/function getUploadSignature(req, res) {res.json({code: 0,message: 'ok',data: {//上传时指明模板参数与任务流signature: gVodHelper.createFileUploadSignature({ procedure: 'QCVB_SimpleProcessFile({1,1,1,1})' })}});}
步骤2:在获事件通知时获取 AI 鉴黄结果
/*** 获取事件的 AI 鉴黄结果*/function getAiReviewResult(event){let data = event.eventContent.data;if(data.aiReview){return data.aiReview;}return {};}