内容巡查的功能
设备巡检
进入设备巡检后,巡检APP会显示巡检人员的全部巡检计划以及每个计划当前应执行的周期,巡检人员选择要进行的计划开始巡检,从巡检开始后,系统会一直记录巡检人员的轨迹信息,直至巡检完成,巡检界面分为两种模式,数据列表模式和地图模式,让巡检人员可以全方面了解自己的工作内容,工作起来更加方便。
移动app内容巡查介绍
移动APP作为时下便捷的用户信息延展平台,内容监管平台可为移动应用开发商提供内容过滤方案,避免用户在开发的APP中发表不当言论,规避监管风险,带来安全价值。
针对业务系统包括APP中的文本、图片、音频和视频等信息进行安全检测和过滤,结合国家监管政策要求,提供对内容的涉政、违禁、广告等风险内容过滤审核。
内容巡查的效率
巡查人员未认真巡查,可设置三级督办,每超时一级便往上提报一级,适时升级,管理介入,提升服务品质和管理效率
接单/处理超时督办
接单环节和处理环节均可设置超时督办超时时间范围可设;督办层级可设
三级督办提醒
工单接单超时每超过一级,均会有新语音消息和信息推送提醒,巡查工单内容会显示为红色和超时标记
不断扩招的后顾之虑
综合各路媒体报道来看,字节跳动内容审核员已扩招超2万人,快手、B站、腾讯等各平台也分别有数千人。整体不到十万数量级的内容审核员,在面对数亿人民产生的倍量内容时,互联网秩序的维护者们也显得有些力不从心。
内容审核员就如“互联网保安”,24小时在文本、图片、音频、视频的不间断“巡逻”,拦截那些黄色、低俗、涉政、广告等违规内容,如果拦截不及时,随时就可能上演“全民知晓”的内容安全事故。而长期熬夜、身体紊乱、长期面对黄色、低俗等内容,对审核员的精神,心理,造成非常大的损伤。
国内外已有不少从业者受到类似困扰,轻则“恶心到吃不下饭”,“晚上做噩梦”,严重的心理创伤,甚至可以让人变得麻木和暴躁,越来越具有攻击性,甚至有审核员猝死。
可以说,当前依靠人工审核来控制内容合规安全,已达到较高负荷的状态。
那不断扩大审核团队规模,就可以“后顾无忧”吗?显然这已不再是较优解。眼下还是平台可以增加人力成本,扩招人工、“少赚一点”的阶段,但作为企业,都会在成本和收益之间想达到一个平衡。
如果单纯把内容风险控制当成一件纯技术性的事情,或者说只认为是企业的成本负担,不能创造收益。那企业只需要准备大量训练数据,一些判断模型就可以直接拿来用,甚至还可以拿出去做成生意。但真正经历过内容安全痛苦的企业就会知道,内容风险控制掌握着企业发展的命门。
海量的内容,在人工之外如何做好内容的合规和安全?现已成了所有内容相关企业绕不开的话题,而内容风险控制细分领域头部玩家们,也瞄准了贴近人类思维的AI内容审核机制的算法研究。