内容审核平台助力猫爪构建健康安全的社交环境

价值成果



猫爪接入百度大脑内容审核平台后，有效提升了聊天、好友圈、微日记等多个业务场景的内容风控能力，通过接入百度内容审核的色情识别、涉政识别、暴恐识别等服务，对用户上传的文本和图像信息进行多维度识别，精简了内容审核流程，极大地提高了内容管控效率，审核准确率较之前提升了30%，同时缩短了用户内容从发布到呈现的周期，有效遏制了违规内容的呈现和传播，保证UGC内容安全、及时的呈现，在保证用户社交体验的同时，为用户提供了更为轻松、健康的社交环境。



案例故事



核心诉求

1） 社交平台的繁荣强依赖用户不断生产内容，平台内容的安全性是对社区氛围、用户体验的重要保障，因此内容监管是社交平台必不可少的环节，仅仅通过平台的安全宣导措施远远不能杜绝违规内容，如何精准地过滤有风险的内容、最大化的降低平台的安全风险，是猫爪风控的当务之急； 

2） 用户上传的内容数量巨大，每天需要判断数十万的疑似安全隐患的图像/文本内容，人工审核存在判断标准上的主观性差异，同时需要耗费大量的人力成本，导致无法通过纯人力的方式筛选过滤有风险的内容，实现内容审查的高效智能化、降低人力成本，也是猫爪的核心诉求。



解决方案

猫爪平台中的好友圈、微日记、解忧杂货铺等多个业务场景，接入了百度大脑内容审核平台，用户发布图像或文本内容后，调用百度大脑内容审核平台接口，进行色情、涉政、涉暴等多维度审核，审核过滤后的内容流转到人工审核团队，进行复审或直接灰度发布，最终全量发布。 

下图是猫爪内容从用户上传到前端呈现的审核流程：