靠机器or靠人工？天府TV“AI＋人工”完整闭环解决方案

最近，打开抖音、快手、B站等APP，你是否发现它们都弹出了“青少年模式”？

抖音平台“青少年模式”

今年“六一”儿童节前夕，国家网信办指导14家短视频社交平台以及4家网络视频平台统一上线了“青少年防沉迷系统”，其主要功能在于独立分发未成年用户的专属内容，以及限制其使用时长。

去年开始，各大内容平台都陆续迎来了一系列大刀阔斧的整改篇章。不久前，网信办会同有关部门对26款音频社交平台进行新一轮全面集中整治，新兴的音频社交平台因此迎来不少质疑。

一年多的时间内，互联网的UGC内容审查方向均在走向人工强干预，业界甚至有人认为，真正靠AI审核内容可能还需要5-10年的窗口期。现实已经表明，只有督促互联网公司承担社会责任，强调算法的价值观，在产品设计上创新未成年人保护措施，加强内容安全监管，才能杜绝短视频社交平台中的种种乱象。

1

人工干预已成行业共识

得益于算法技术的发展，互联网公司通过用户画像实现了相对精准的信息推送。但如果不对信息的分发加以干预，诸如强烈性暗示、虚假信息、软色情等内容就会在推荐网络中蔓延，科技界、媒体界由此展开了关于“算法有没有价值观”的讨论。

在几大内容平台持续加大内容审核业务上的资源和人力投入上可见，当遇见“算法有没有价值观”这一命题时，他们都作出了共同选择。这些整改措施，都在强化人工审核在内容审查机制中的主导作用。

02

机器审核只能辅助识别

其实无论什么载体的媒介，在真正的AI时代来临之前，所有的机器审核都只会是人工的辅助。在流程设计上，机器审核可以做到的就是帮助运维者先行剔除大量确切违规的内容，剩下的人工审核流程可不能说省就省。

举个例子，一张人像图片，可以划分为“色情”“性感”“正常”三个维度，机器审核可以根据肉体裸露的程度进行判断，实际上信息的表义可没那么简单，究竟该怎么定义“性感”？全无裸露的人体通过场景与动作的表达能不能达到人们对“色情”的认知？

人生而爱美，如果说“性感”可以从性暗示程度、信息接收者的舒适度作为标杆，那么定性标尺就掌握在网站运维者手上，各社交平台的编辑责任制也因此诞生。

//////////

在网信办等相关部门的有力监管下，各类音视频、社交平台等只有坚持以正确的价值观引导人工审核，辅之以机器协助，才能真正将自己的社会责任落到实处。

由成都音像出版社有限公司自主建设运营的国家级平台型项目，该项目在中宣部、原国家新闻出版广电总局支持和指导下，依托成都音像出版社持有的互联网内容制作、出版、发行等核心资质，抓住国家对网络视听产业相关政策调控的历史机遇，充分运用云计算、大数据等前沿互联网技术，整合全国具有前置审批资质机构的专业编辑审核资源，为各类网络视听传播平台及其他内容审核需求方提供图、文、音频、视频内容播出前的第三方审核服务。

平台优势

具有「广电+新闻出版」的国企身份，并已在原国家新闻出版广电总局改革发展项目库正式入库。审核模式为「AI +人工」的完整闭环解决方案，大幅度降低漏审、错审风险。

平台大事记

2018年3月，被列入原国家新闻出版广电总局“改革发展项目库2018年度入库项目”。

2018年4月，正式开始接入互联网平台的第三方内容审核业务。

2018年12月，天府TV内容审核平台1.0版本在第六届中国网络视听大会上正式上线发布，形成审核基地集中审核与远程协作审核相结合的“人工+智能”的专业化、规模化第三方内容审核模式。

2019年1月，该项目通过了由四川省广播电视局组织的专家组评审。专家组成员来自国家广播电视总局广播电视科学研究院、电子科技大学、四川广播电视台、成都市广播电视台等单位。被列为四川省内容审核试点平台。

2019年6月，天府TV网络视听内容审核标准体系评审会召开。国家广播电视总局规划院、四川省广播电视台、成都市广播电视台等单位专家组成员听取汇报后，认为该标准体系内容全面详实、结构清晰、理念先进，具有可操作性和现实指导意义。