特稿 >

前沿热点 >

“视频暴力”:网络给科技提出的“最难题”

“视频暴力”:网络给科技提出的“最难题”

Xtecher原创 丨 前沿热点

17710
1778

2017-05-31

tuni

Xtecher特稿作者

关注

网络几乎将世界的每一个角落都链接在一起,在传播各种信息资讯的同时,暴力、色情内容也借助这一渠道开启了“病毒式传播”。如何自动识别并阻止骇人听闻的“暴力视频”?这不仅是一个重要的科技课题,同时,还要面对“人性”这座坚耸的大山。


本月,一名泰国男子在某社交媒体上用视频直播了谋杀自己11个月大女儿的过程。


这已经不是该社交媒体的视频直播平台第一次被扯进暴力犯罪事件。一系列暴力事件通过视频直播被“病毒式传播”,这引发了全世界对直播平台的质疑:在面对暴力、色情、犯罪活动时,直播平台是否有能力更快地识别并处理不良内容?


但不幸的是,截至目前,没有任何研究成果能解决这个问题。


尽管包括中国多家科技公司在内的全世界众多科技公司在努力解决“视频暴力”问题,但技术和人类思维方式的双重局限几乎让研究陷入“死局”。


大多数研究团队的精力都集中在“深度学习”上。希望通过模仿人类神经元在大脑中工作和交互的方式,来识别、判定不良视频。这一思路起源于60年前,但是,“让电脑使用深层人造神经元进行机器学习”的这种模式,真正发展起来是最近十年内的事。


不可否认的是,运算力和数据已经发展到能让“深度学习”系统进行深度的“学习”,并以此让“机器学习”系统的准确性和有效性得到迅速提升。


图像识别的“深度学习”系统在最开始的时候,需要让图像穿过计算机的神经层,然后再学习识别视频中的街道标志、语音或暴力场景等内容。


新加坡Graymatics公司的首席执行官Abhijit Shanbhag表示,在网络上的“暴力行为”不仅仅是那些对生命造成伤害的影像,还包括黑客攻击、色情行为和煽动非法行为等。如果“深度学习”系统的工程师不能让机器学习场景足够丰富和真实,事倍功半甚至徒劳无功都是有可能的。


有相关人士表示,算法不仅要“亡羊补牢”还应该具有“未雨绸缪”的能力,例如识别视频中出现的刀、枪甚至可能存在的黑客入侵威胁等“暴力前兆”。


这种“高难度”的要求使算法的局限性进一步暴露无遗。


其中一个局限性在于,深度学习软件只能在遇到和训练内容一致的场景时才可能正常发挥。如果视频直播中环境和内容稍有不同,软件相对固定的编程就会严重限制其识别能力。


Shanbhag说:“人们在暴力行为上有了更多的‘创新’,识别系统就必须接受更多‘培训’”。他的团队正在努力帮助世界上多家影响力较大的社交媒体进行视频和图像内容的过滤。


另一个局限性在于,暴力可能是“主观”的。 法国PicPurify的研发部门主管 Junle Wang表示,即使场景是合理的,但只要涉及到血液,相关内容就很容易被“误认为”是暴力场景,而不涉及到血液的暴力影像则很有可能被认为是“非暴力”。突破这一巨献在目前来说,还只是一个工作目标。


Junle Wang的同事,PicPurify公司的首席执行官Yann Mareschal表示,通过语言表达的心理上的暴力行为几乎无法识别。这名CEO形象的举例说,如果一名成年人在视频直播中向小学生讲述《X档案》中“刨腹挖心”的故事,那么尽管对于小学生来说这可能是令他们终生难忘的心灵创伤,但对于现有算法来说,这仅仅是一次再正常不过的叙述。


Shanbhag表示,还有一些内容是“冒犯性”的,但又不具备内在的暴力。例如,海盗骷髅旗或纳粹卐字纹身等。 这些内容应该可以根据相关法律和用户的个人倾向进行调整。


总部位于芬兰的Valika公司的主营业务是在媒体和广告中识别不良内容。它的创始人兼首席执行官Mika Rautiainen表示,虽然机器学习、算法和自动化可能会对视频暴力问题的解决有帮助,但现阶段,人力仍然不可或缺。人工协助验证被算法标记为具有“危险性”或“冒犯性”的内容,将有助于提高识别精确度。


事实上,识别的解决方案涉及了图像以外的其他线索。PicPurify的Wang先生表示,相关研究人员还可以运用算法来监控观众的反应,如转发量、评论内容及跳出率等,这也能作为“视频暴力”识别的依据。


业务横跨俄美两国的Kuznech公司的首席执行官Michael Pogrebnyak表示,他在产品中增加了色情图像识别算法(算法的核心在于皮肤检测和相机运动检测),还增加了能够检测成人影视工作室标志和警告标识的算法。


众多社交媒体均表示,他们也正在使用类似的技术来识别暴露、暴力或其他不符政策的内容。


一些公司表示,科技公司采用“暴力识别系统”的速度比预想的要慢,其中有部分原因在于识别系统的应用会增加公司的运营费用。 但他们也表示,这一问题将会有所改变。


Valossa公司的Rautiainen说,需要对用户内容进行管理的公司,不仅会承受用户对平台的质疑压力,同时还可能会面临日益增长的监管压力。但无论如何,网络也不应该成为传播暴力和色情等不健康事物的途径。

打开微信“扫一扫”,打开网页后点击屏幕右上角分享按钮

账号登录

重置密码

还没有账号?立即注册>

账号注册

已有账号?立即登录>注册企业会员

重置密码

返回

绑定手机