抖音、快手它们的内容是如何审核的

春困秋乏夏打盹。为了不那么懒，强迫自己坚持学习、坚持输出，给自己定个计划：每周输出3篇内容，总长度不少于1000字。

希望我有限的几十个粉丝监督。

问题：

很多用户会在“抖音和快手”这种视频应用里上传一些涉及色情、反国、欺诈之类的非法视频，当产品体量较少时，通过运营人员的审核是不费力的。可是当产品用户规模庞大，每天生产的短视频足够多的，仅仅依靠人力是很难解决这个问题的。那么产品应该运用什么技术手段去处理这类问题呢？有什么好的解决方案吗？

我的回答：

数据库匹配：任何文件都有且只有一个独一无二的MD5值（类似于身份证号码），这些应用的后台可以建立违规文件的MD5数据库（数据来自网监等相关部门，不断更新中），用户上传视频后用该视频的MD5值去数据库中匹配，匹配上就认为是危险视频然后予以删除。匹配不上就进入步骤2；

视频转图片：将初审通过的视频转化成截图（例如每0.5秒一张，具体多少取决于产品阶段和运营策略等），然后通过图像智能识别系统来进行甄别。该系统说起来简单，但背后涉及到的东西却并不简单，有兴趣的可以搜索下图普科技进一步了解；

声音识别：这块了解的不多，讯飞科技对于普通话可以做到语音转文字，也支持部分方言（如四川话），就可以把声音识别转化为文字，然后进行审核，审核的关键就是屏蔽字库；

其它机制：通过以上方式可以解决绝大部分视频内容的审核问题，拿不准的可以由运营人员来介入人工审核。除此之外还有举报机制，在此不展开。另外可以想到的策略有：新用户、高危IP、虚拟号段等用户发的内容审核级别提高或先审再发（显示，仅自己可见），大V用户/认证用户/高质量用户降低审核级别或先发再审（显示，所有人可见）。

最后，网络监管越来越严格，以上APP均需要手机号注册，而手机号基本都实现了实名制，这也增加了用户的违法成本。

以上。