斗鱼(DOYU.US)加强低俗庸俗内容整治 用AI构建内容防火墙

作者: Techweb 2020-07-20 11:12:37
为了严防低俗内容出现,国内领先游戏直播平台斗鱼不断投入技术研发,优化完善平台规则,严打低俗庸俗内容,用AI构建内容防火墙。

本文来自“TechWeb”。

在“人人都是主播,万物皆可直播”的时代,为了严防低俗内容出现,国内领先游戏直播平台斗鱼(DOYU.US)不断投入技术研发,优化完善平台规则,严打低俗庸俗内容,用AI构建内容防火墙。

今年3月起,斗鱼对直播内容进行了分类巡查和整治,针对色情三俗、造谣传谣、侵权假冒、标题党等六大类恶意营销账号进行了全面深度排查,对问题账号进行了从重、从快处理。今年6月份,斗鱼累计清理问题账号4099个,其中低级庸俗类3200个、标题党类861个、造谣传谣类20个、侵权假冒类18个。截至目前,斗鱼内容整治措施已取得了实际到位的效果。

在斗鱼内容监管体系下,平台所有开播主播均需要通过“实名验证+人脸识别+人工审核”三道防火墙,既能够从源头防止劣迹主播直播,也能杜绝未成年人进行直播,并能在主播违规后第一时间追踪到个人,预防后续恶性事件的发生。

主播开启直播间后,其所产出的直播视频内容就在AI系统里不停运转,每个画面都会通过程序做实施对应识别,一旦机器自动识别到低俗、恶搞、谩骂等不良内容,拦截违规的图像视频,平台可以对这些不良内容做到“秒关”。在颜值、户外等泛娱乐版块,系统还会同步采取捕捉交传声信息进行分段切片,并通过数据模型进行分析、通过语音、语义、弹幕文字等关键点进行智能判断识别,过滤问题内容推送至人工审核。

据了解,斗鱼的AI审核技术已经发展的相当成熟,目前在直播领域里,斗鱼对图片、视频、音频的鉴黄准确度都非常高,已经可以对外输出该项技术能力。对比其他平台,斗鱼拥有更加庞大的、独特的用户数据和行为数据,并且能够基于海量用户数据进行分析运算。对比早期斗鱼只能应用第三方数据进行图片识别,目前平台均已实现自主建模。相对于第三方数据,斗鱼风险识别系统经过长期数据筛选、培育和自学习后,积累了大量的违规特征数据,构建了强大计算能力,使得自身的风险识别模型更加精准。

除了自动化监管外,斗鱼采取机器审核和人工审核相结合的方式,通过后台监控、人员巡查、机器识别以及举报处理等各种途径对所有直播频道进行全天24小时监控。为进一步防止出现“漏网之鱼”,斗鱼还设立了电话举报、网页和APP一键举报等功能,更特别集结招募热心观众对全平台直播相关内容进行监督与巡查。截止目前,斗鱼巡管团队共计参与报名人数为17万余人,已有2000余名斗鱼热心观众加入。

除此之外,斗鱼还特别制定了完善的应急处置制度,涵盖“突发公共安全事件的应急处置制度、应急响应预案、互联网突发事件应急处置预案”等各项内容,提高重大安全事件、突发敏感事件的应急处理能力,从根源将事件的影响降到最低,所造成的破坏和损失减到最小。

在斗鱼的严格审核和封禁措施下,“清朗”行动颇具成效。斗鱼表示,未来平台将持续完善内容审核机制,充实内容审核团队,严格落实24小时监测的要求,不断推进网络直播行业的生态趋向健康。

(编辑:李国坚)

智通声明:本内容为作者独立观点,不代表智通财经立场。未经允许不得转载,文中内容仅供参考,不作为实际操作建议,交易风险自担。更多最新最全港美股资讯,请点击下载智通财经App
分享
微信
分享
QQ
分享
微博
收藏