美股

斗鱼(DOYU.US)加强低俗庸俗内容整治 用AI构建内容防火墙

2020年7月20日 11:12:37

本文来自 “TechWeb”。

在“人人都是主播,万物皆可直播”的时代,为了严防低俗内容出现,国内领先游戏直播平台斗鱼(DOYU.US)不断投入技术研发,优化完善平台规则,严打低俗庸俗内容,用AI构建内容防火墙。

今年3月起,斗鱼对直播内容进行了分类巡查和整治,针对色情三俗、造谣传谣、侵权假冒、标题党等六大类恶意营销账号进行了全面深度排查,对问题账号进行了从重、从快处理。今年6月份,斗鱼累计清理问题账号4099个,其中低级庸俗类3200个、标题党类861个、造谣传谣类20个、侵权假冒类18个。截至目前,斗鱼内容整治措施已取得了实际到位的效果。

在斗鱼内容监管体系下,平台所有开播主播均需要通过“实名验证+人脸识别+人工审核”三道防火墙,既能够从源头防止劣迹主播直播,也能杜绝未成年人进行直播,并能在主播违规后第一时间追踪到个人,预防后续恶性事件的发生。

主播开启直播间后,其所产出的直播视频内容就在AI系统里不停运转,每个画面都会通过程序做实施对应识别,一旦机器自动识别到低俗、恶搞、谩骂等不良内容,拦截违规的图像视频,平台可以对这些不良内容做到“秒关”。在颜值、户外等泛娱乐版块,系统还会同步采取捕捉交传声信息进行分段切片,并通过数据模型进行分析、通过语音、语义、弹幕文字等关键点进行智能判断识别,过滤问题内容推送至人工审核。

据了解,斗鱼的AI审核技术已经发展的相当成熟,目前在直播领域里,斗鱼对图片、视频、音频的鉴黄准确度都非常高,已经可以对外输出该项技术能力。对比其他平台,斗鱼拥有更加庞大的、独特的用户数据和行为数据,并且能够基于海量用户数据进行分析运算。对比早期斗鱼只能应用第三方数据进行图片识别,目前平台均已实现自主建模。相对于第三方数据,斗鱼风险识别系统经过长期数据筛选、培育和自学习后,积累了大量的违规特征数据,构建了强大计算能力,使得自身的风险识别模型更加精准。

除了自动化监管外,斗鱼采取机器审核和人工审核相结合的方式,通过后台监控、人员巡查、机器识别以及举报处理等各种途径对所有直播频道进行全天24小时监控。为进一步防止出现“漏网之鱼”,斗鱼还设立了电话举报、网页和APP一键举报等功能,更特别集结招募热心观众对全平台直播相关内容进行监督与巡查。截止目前,斗鱼巡管团队共计参与报名人数为17万余人,已有2000余名斗鱼热心观众加入。

除此之外,斗鱼还特别制定了完善的应急处置制度,涵盖“突发公共安全事件的应急处置制度、应急响应预案、互联网突发事件应急处置预案”等各项内容,提高重大安全事件、突发敏感事件的应急处理能力,从根源将事件的影响降到最低,所造成的破坏和损失减到最小。

在斗鱼的严格审核和封禁措施下,“清朗”行动颇具成效。斗鱼表示,未来平台将持续完善内容审核机制,充实内容审核团队,严格落实24小时监测的要求,不断推进网络直播行业的生态趋向健康。

(编辑:李国坚)

(更多最新最全港美股资讯,请点击下载智通财经App

香港交易所资讯服务有限公司、其控股公司及/或该等控股公司的任何附属公司均竭力确保所提供信息的准确和可靠度,但不能保证其绝对准确和可靠,且亦不会承担因任何不准确或遗漏而引起的任何损失或损害的责任(不管是否侵权法下的责任或合约责任又或其它责任)

相关阅读

取消评论