如何从5W模式入手，助力内容审核

       一、5W模式与内容审核

　　1948年，拉斯韦尔提出了传播过程及其五个基本构成要素，即：

　　Who：谁——内容的生产者；

　　What：内容——生产者说了什么；

　　Which-In Which Channel：渠道——内容通过什么渠道传播；

　　Whom-To Whom：受众——谁接受到了内容；

　　With-With What Effect：效果——内容传播后取得了什么效果。

　　所有的传播行为都可以围绕这5个要素展开。

　　所谓内容审核，也不仅仅是对内容本身进行识别，尤其是在目前机器识别无法达到100%的准确、内容数量本身及其庞大的情况下，通过对各个传播要素的“监控”，也是完善机器审核的数据维度、提升审核效率的有效途径。

　　5W要素应用到内容审核中，分别与以下角色环节相对应：

　　Who：生产者是否靠谱？是否是一个“可信”的人？他发布不合规信息的可能性有多大？

　　What：内容本身是否是合规的？

　　Which：渠道想要做好“把关人”的角色，应该如何开展内容审核 ？

　　Whom：受众本身有无异常？受众的行为是否合规（如发布不良评论）？

　　With What Effect：传播的情况是否正常？

　　内容审核目前都是通过机器+人工的方式进行，审核的机制既可以是先发后审也可以是先审后发。

　　如何选择这些方式和机制、在提升审核效率的同时最大程度地保障内容安全、同时又不影响用户体验，维护三者的平衡，可以围绕上述各要素来进行规划设计。

　　二、五要素在内容审核中的应用

       1. Who：对内容的生产者的风险评分和标签体系

　　1）建立对于内容生产者的风险评分

　　从内容生产者发布第一条内容开始，就对他展开内容识别，基于静态的注册信息、此前的行为信息建立初步的风险情况后，根据其后续发布内容的情况动态实时调整，同时建立黑名单制度。

　　如：一个内容生产者，此前浏览的内容都是财经、商务类型的，而且绑定了银行卡，则前期的静态评分可以认为他是一个低风险用户。

　　后续其发布的内容在一段时间内多次触发人工审核机制，则可以提高他的风险等级；随后他发布的内容被用户举报且人工审核确实违反了规则，则可以视情况将其纳入黑名单，限制之后的内容发布行为。

　　2）建立对于内容生产者的标签体系

　　针对内容发布者进行画像，可以实现对异常行为的监控。

　　标签体系可以包括用户的性别、年龄段、常用地理位置、常用设备、发布的内容类型等信息。一旦某些信息发生变化，则需要对其内容进行重点监控，防止异常行为，如用户被盗号后此账户被用来发布不合规内容。

　　此外也可以设置优秀内容生产者等标签，对此类用户发布的内容免审核或可以先发后审。

　　2. What：对内容的识别规则和手段

　　建立内容审核的规则，审核的规则大体上来说源于监管的要求和业务的政策。

　　1）监管的要求

　　内容不能涉及黄赌毒暴政恐，《网络信息内容生态治理规定》、《网络短视频内容审核标准细则》等也对内容审核提出了详细的要求。

　　2）业务的政策

　　为营造社区的良好氛围，保证用户体验，内容不能涉及侵权、谩骂、隐私、低俗、垃圾内容等；为保障平台的正常运营和利益，不能违规发布广告、添加链接等；为社区用户安全考虑，内容不能涉及导流、诈骗等。

　　3）丰富审核的技术手段

　　充分利用人工智能等技术手段，实现对文本、图片、声音、视频的自动识别，不断提高机器的召回率和准确率。

　　4）搭建机器审核和人工审核的流转机制

　　包括内容在何种情况下触发审核、何种情况下触发人工审核，人工审核是否需要复核等，完善的流程设置对效率的提升大有助益。

　　3. Which：助力审核人员扮演好“把关人”的角色

　　1）设置有效的任务分配机制

　　提升分发效率和审核效率，保证需审核视频100%分发，且在最短时间内到达审核人员，同时按照一定的规则给审核人员分配需要审核的视频。

　　按照触发人工审核的原因来分发，可以使审核人员积累在某一领域的审核经验，提升审核效率。

　　2）为审核人员提供配套的功能

　　“工欲善其事必先利其器”，提供审核的辅助功能，助力人工审核提速。

　　如针对文本的审核对敏感词高亮显示，针对音视频的审核标注关键帧、设置倍速浏览功能，审核的信息通过信息流的方式自动呈现，减少操作点击环节。

　　4. Whom：通过受众识别违规内容的“蛛丝马迹”

　　1）为受众提供举报功能

　　一方面可以节约审核资源，另一方面也是对机器和人工审核错误率的一种弥补。

　　2）建立受众的标签体系

　　和针对传播者的标签体系一样，对用户的画像除了用于针对用户的内容推荐外，也可以是对内容质量反馈的一个维度。

　　例如：同一个内容被大量不同标签的用户关注，可能内容本身存在了诱导行为，就需要人工审核予以确认。

　　3）进行受众聚集情况分析

　　针对受众的集中情况进行分析，是否过于聚集。

　　不过此方式多用于直播中刷量行为等的监控，在内容审核中，可以辅助判断内容是否存在诱导、违规广告营销等。

　　5. With What Effect：通过传播的效果发现内容的异常

　　1）通过观看、点赞、转发、评论数等的监控发现异常行为

　　传播范围广泛的内容中若存在风险，造成的后果更为严重，因此要对观看、点赞、转发、评论量比较大的内容特别关注。

　　另外：这些指标的异常也是一个值得关注的风险点，此前点赞数一直不过百的用户新发布的内容突然点赞过万，可能需要对内容进行人工审核。

　　2）对评论进行内容识别

　　评论同样是内容审核需要关注的部分，对评论内容的识别。

　　一方面是监控评论是否有违规行为，另一方面通过关注评论内容中是否存在对内容本身的举报等，来进行内容审核。

　　三、小结

　　从5W模式入手建立内容审核的体系，是基于传播要素的完整模式。

　　内容审核的重点还是在对内容本身的识别方面，从提升机器审核的召回率和准确率，到提升人工审核的效率，再到搭建完整的流转机制，从其他要素着手也主要是为优化这三个环节来服务。

　　当机器能够实现对违规内容的100%精准识别，甚至具备了自我学习的本领，能够自己去拓展发现审核的“要义”，或许其他环节也就不那么必要了。