最近，两家在线教育平台因为APP内容涉黄而引发一场"互掐".双方互指对方构陷以实现打压对手的目的。脱离事件本身，从在线教育领域用户体验来说，K12群体是在线教育的主要受众，对这一群体来说，网络是他们获取知识形成人生观、价值观的重要渠道，网络环境的安全与否对于教育的影响也越来越明显。
目前，我国有近3亿的青少年网民，直播、游戏平台、微信、微博、大众点评等社交和生活服务平台上都是青少年网民的网络行为的主要场景，这些平台上每天都产生着大量的UGC内容，其中不乏一些违规内容。伴随着国家对互联网传播内容监管的逐渐加强，各类平台开始提升内容安全审核能力。
调查显示，月直播10万小时的中小直播平台，如果采用传统的内容审核技术，月消耗在80万上下，而利用人工智能来进行内容审核的话，成本则可控制在传统审核技术的13%-25%之间。
基于较低的投入实现较高的内容审核效率的目标，用人工智能代替人工进行互联网内容审核逐渐成为业界共识。
通过深度学习提高内容安全审核效率
美团点评是目前国内大的O2O生活服务电商平台，无论是美团、大众点评还是美团外卖，每天都会产生大量的文字、图片内容。
为了提高内容审核效率，美团点评联合美团云构建了基于自然语言处理、图像识别等技术以及GPU云主机、深度学习平台等支撑的内容安全审核平台。该产品已经上线美团云，对外开放使用。
美团云内容安全审核平台是基于美团点评PB级数据量积累，以及算法团队对相关模型不断优化从而成就的一款成熟的内容安全产品，可以对乱序乱打等文字内容，黄反等违规内容，抄袭、广告等内容进行识别判断，从而杜绝上述内容出现影响用户体验。
目前，美团点评上99.65%的文字内容、96.7%的图片内容都是交由机器审核，其中文字、图片的漏过率仅为万分之二，这一数字还在不断降低。依托于美团云内容安全审核平台，美团点评基本上已经告别了人工审核时代。
探索未来方向，覆盖广泛AI应用场景
前面提到直播平台中的内容安全，直播平台涵盖弹幕、私信、视频、语音等多场景的实时内容审核，这相较于美团点评上的内容及图片场景拥有更多的应用场景和技术挑战，这也是美团云内容审核平台继续优化的方向之一。
除了内容审核外，美团云前不久上线的人脸识别产品也已经应用于一些金融业务场景中，为金融业务安全增加一层保障。
未来，美团云将以客户为中心，持续挖掘用户需求，并基于前沿技术的探索，创造更多帮助企业用户提升价值的优秀产品。
热门专题
