浙交所代码:851568      详情咨询

400电话

鉴黄、认脸、看字,小程序内容审核的新“帮手”来了!

发布时间:2018-05-28 13:52:51 来源:微信公开课 浏览量:1050

小程序因为内容违规被下线?想审核识别违规内容却不知如何入手?


上周,我们上线了内容安全接口,用这个“神器”帮助大家解决困扰。


今天,我们来详细了解一下这个“神器”,帮助大家更好地解决上述的各种问题。


这个帮手帮你做内容审核


用户通过小程序发布的内容,数量大、种类多,逐个校验几无可能。


小程序内容安全接口能够辅助开发者精准快速地校验小程序的文本、图片内容是否含有淫秽色情、涉违法犯罪、涉政有害等内容,抵御不良信息混入,维护小程序内容健康。


温馨提醒,开发者就算有了内容安全接口这个称心的“好帮手”,也不能对违规内容掉以轻心。


三大能力,快速发现并处理违规内容


能成为“好帮手”,当然是有“超能力”。小程序内容安全接口提供三大能力,从图片到文本,精准识别违规内容。


图片智能鉴黄

无论是用户通过拍照上传的内容、自定义头像,还是文章评论的图片,图片智能鉴黄接口都能够进行主动识别及获取色情量化程度信息,实现精准快速的色情倾向判断。


智能人脸识别

绝不“眼盲”的面部识别能力能够提取图中的人脸信息,进行相似度判断,包括重要政治人物、公众人物等图片人脸识别,帮助开发者避免业务的违规和侵权风险。


恶意文本检测

文本包含着很多潜在违法元素,内容安全接口提供了更高级智能的恶意文本检测能力,能够精准识别文本内容中的违规文字信息,辅助发现违规和恶意内容。


这些场景已经能实际使用了


目前,内容安全接口已经能够运用在小程序的文本、图片等内容校验中。


用户的个人资料、媒体类用户发表的文章及评论、游戏类用户编辑上传的素材等,开发者都能借助内容安全接口进行文字检测。


此外,内容安全接口还能对用户拍照上传、电商类商品上架图片、用户头像、媒体类用户文章配图、社交类用户上传的图片进行检测。


更多你关注的Q&A


了解完小程序内容安全接口的基础信息,也许你还会有一些疑问:这个接口到底适合谁?有什么效果?Q&A了解一下——


Q1: 开放内容安全接口能为开发者带来什么好处?


A:我们注意到,近年来,由于产品中存在违规内容而被处罚,甚至关停下架的事情时有发生,开发者的内容审核工作刻不容缓。因此,我们推出了内容安全接口,希望帮助开发者及时发现并处理图片、文本内容里的违规信息,让开发者能够将精力更集中于高质量的小程序开发当中。


Q2: 哪些小程序可以使用内容安全接口,有使用要求吗?


A:目前,内容安全接口面向所有的小程序开发者免费提供一定额度的接口调用量,主要为小程序内容审核工作提供帮助,平台不会留存小程序开发者提交的检测数据。如果调用量需求超出上限,开发者可以通过业务逻辑优化、自行开发内容审核手段、调用其他第三方内容审核接口等方式开展内容审核。


Q3: 有了内容安全接口,开发者是不是就能省略内容审核工作?


A:目前,内容安全接口只提供内容审核的基础能力,辅助开发者发现有害内容,但对于内容的检测结果,以及其他违法违规内容(如暴力、恐怖、血腥),开发者仍然需要履行好管理职责,自行开展审核并对有害内容进行删除等处理,并不能忽视内容审核工作。


同时,开发者可以通过《文本内容安全接口》《图片内容安全接口》详细了解小程序内容安全接口的更多信息,共同打造更加绿色健康的小程序生态。


  • 推荐动态
现在填写联系方式,享受一对一咨询服务
电话咨询
0571-57876666
全国服务热线