答:需要审核,很多用户会上传一些色情、反国、欺诈之类的非法视频,产品体量较少时,通过运营人员的审核是不费力的。审核手段有以下几类:
1、数据库匹配
任何文件都有且只有一个独一无二的特定数值,类似于身份证号码,这些应用的后台可以建立违规文件的特定数值数据库,数据来自监管部门不断的更新中。用户上传视频后,由该视频数值去数据库匹配,匹配上就认为是危险视频,然后予以删除,匹配不上,就进入步骤二
2、视频转图片
将初审过的视频转化成截图,例如每0.5秒一张,具体多少取决于产品阶段和运营策略等等,然后通过图像智能识别系统来进行甄别。该系统说起来简单,但背后涉及到的东西却不简单,有兴趣的可以搜一下进一步了解。
3、声音识别
目前可以做到语音转文字,也支持部分方言,比如广东话。转化成文字后,进行审核。审核的关键就是屏蔽字库。
4、其他机制
通过以上方式可以解决绝大部分视频内容的审核问题,拿不准的可以由运营人员介入人工来进行审核,除此之外还有举报机制,在此就不展开了。另外,可以想到的策略有:新用户、高危IP、虚拟号段等用户发的内容审核级别提高,或者先审再发,显示仅自己可见。
大V用户或者优质用户降低审核级别,或者是先发再审,显示为所有人可见。网络监管越来越严格,很多APP均需要手机号、实名注册,这也就增加了用户的违法成本。