内容安全审核面临的挑战
随着互联网、智能设备及各种新生业务的快速发展,互联网数据呈爆炸式增长,其中也充斥着各种不可控的风险因素,例如:色情内容、暴恐内容、垃圾广告等。
随着国家监管的力度不断提升,暴力、血腥、黄赌毒及危害青少年等不良内容被重点关注。内容安全审核成为短视频、新闻资讯、直播等平台急需的运营能力。
传统审核手段对于文本中常见的暴力性、讽刺性、暗示性的内容识别审核较难,审核成本较高,企业内容运营面临新的技术挑战。
什么是文本内容安全
腾讯文本内容安全(Text Moderation System,TMS)是一款文本内容智能识别服务,对用户上传的文本进行内容安全识别,能够做到识别准确率高、召回率高,多维度覆盖对内容审核的要求,并实时跟进监管要求,不停地更新审核服务的识别标准和能力。
能够对文本文件进行多样化场景检测,精准识别文本中出现可能令人反感、不安全或不适宜的内容,有效降低内容违规风险与有害信息审核成本。
能够精准识别涉黄、涉恐、暴力等有害内容,支持用户配置词库,打击自定义的违规文本。文本内容安全服务能检测内容的危险等级,对于高危部分直接过滤,对于可疑部分提交人工复审,从而节省审核人力,降低业务风险。
以开放API(Application Programming Interface,应用程序编程接口)的方式提供服务,用户通过调用API即可获取审核结果,高效构建智能化业务系统,提升业务运营效率。
本页内容是否解决了您的问题?