面对不断产生的海量互联网内容和严格管理的要求,或许AI内容安全审核会成为行业下一个重要风口。
5月15日,百度大脑开放日互联网内容安全线上专场活动上,百度AI技术生态部高级产品经理Nathan详解了AI审核能力与应用场景,全新发布人机协同审核管理平台。该平台基于业务积累和实践,通过高效的人机协同审核流程、便捷易用的操作界面,进一步提升审核效率,并帮助业务节省开发和运维成本。同时,一下科技总编辑、副总裁、国信聚安CEO陈太锋作为特邀合作伙伴分享了基于百度大脑打造的新媒体内容风险管理解决方案与应用实践。
随着互联网行业的井喷,在线用户规模不断增长的同时,内容乱象也日渐凸显。网络内容中如有色情、暴恐、低俗等不良信息会带来极其恶劣的影响。确保内容安全合规成为了互联网内容平台的普遍共识。
Nathan讲到:“在解决内容安全问题时,很多企业都面临着人工审核成本过高、管理和业务审核规则更新快适配难度大、搭建高效的人机协同审核系统的技术难度和成本高、周期长等各种挑战。针对这些行业痛点,我们打造了两个平台,分别为内容审核平台,以及全新发布的人机协同审核管理平台,利用AI审核能力帮助企业进行高效、低成本的审核,助力内容风险管控。”
据他介绍,百度大脑基于领先的AI技术积累,提供了全面、灵活、精准的AI审核技术服务。其中包括14+项图像审核能力, 8+项文本审核能力,9+项语音审核能力,并基于多年的风险处置经验实时更新系统策略,保障精准的识别效果。同时,除了百度大脑官方预置的能力外,企业用户还可以通过零门槛AI开发平台EasyDL快速定制审核模型,并自动对接到审核平台中,高效应对新的业务审核规则。
百度大脑所提供的审核模型能力,结合大量业务多个内容场景的使用经验,沉淀下来了丰富、全面的标签体系,并能够非常灵活的结合客户的审核规则进行配置。例如企业客户的审核规则要求非常多样和细化,仅色情识别这一个模型就有20多个分类,可以灵活结合不同类型的业务类型配置不同的审核策略。
“AI 审核能力提高的同时,还需要一套功能更加完备的审核系统来提升我们审核的管理效率。”Nathan介绍到,“基于客户这样的诉求,我们推出了人机协同审核管理平台,通过优化人机协同机制,能够帮助客户降低30%人力消耗并大幅提升单人审核效率。在服务形态上提供公有云、私有化灵活的部署方案,帮助客户极大节省平台开发和运维成本。”
拥有审核团队的业务方,可以直接应用该平台实现自身业务的人机协同审核;没有审核团队的业务方,百度大脑也将携手伙伴基于该平台提供人审+机审的完整方案与服务。同时百度大脑的人机协同审核管理平台也面向服务商开放招募,拥有人力资源的服务商可以申请成为百度大脑内容审核合作伙伴,通过入驻平台获得AI技术指导,快速拓展自身业务边界、高效承接审核业务需求,并获得百度大脑专有的渠道推广资源。
国信聚安既是百度大脑的合作伙伴,也是内容审核平台的受益客户,CEO陈太锋发表了自己看法:“国信聚安是一家聚焦于内容安全生态的专业服务商。在与百度大脑有了合作之后,通过这个标准化易接入的人机协同审核管理平台,帮助我们提升了整个业务拓展、上线的效率和内容专项审查的应对能力。并且借助模型快速的研判和准确率,使得研判耗时缩短了95%,准确率提升了70%,也大大降低了一线审核员的压力。”
开放日的最后环节,Nathan分享了5月百度大脑最新开放和升级的多项AI能力,包括高精度通用文字识别的升级;iOCR自定义模板文字识别新增了对缴税单的识别能力;图像识别清晰度增强且正式商用;人脸识别发布三款产品:人脸识别医美特效能力上线邀测、人脸实名认证场景方案发布、活体检测服务新增人脸合成图鉴别能力,可以检测AI换脸技术和黑客工具生成的人脸图像;自然语言处理技术NLP方面,新闻线索溯源的全新发布等内容。截至目前,百度大脑AI开放平台已经开放254项技术能力,并仍在不断创新升级。
“希望用AI的技术让创新与应用变得更简单。”这不仅是Nathan作为此次开放日的总结,更是百度大脑AI开放平台一直以来贯彻的理念与奋斗目标。未来,百度大脑将面向更多行业领域,通过AI技术在产业中的落地,实现AI对社会经济的促进作用,最大化发挥AI技术价值与AI企业能动性。