分类

谷歌要用人工智能清理网络侮辱性言论,这才是正确姿势

雷锋空岛 2016-09-20 17:33:05


人工智能的一小步,先从对付网络上的暴力或侮辱性言论开始吧。


当我们讨论人工智能的时候在讨论什么?在讨论取代人类工作、取代您的性伴侣、在围棋上打败人类的顶级高手、当然 ,还包括取代你的保姆之类的话题。


这么恢弘壮阔的愿景还是先暂且搁置一边吧。根据《连线》杂志的报道,谷歌这次并不想用波士顿动力的机器人或机器狗炫耀一下特技(何况已经在准备出售了),它打算推出一款人工智能支持的新软件来净化网络环境,对付网络骚扰,尤其各种尖酸刻薄或侮辱性的言论。


这款软件叫Conversation AI,由谷歌子公司Jigsaw开发,Jigsaw在今年2月份从谷歌的组织架构中分拆出去独立运作。


Conversation AI的首批用户是《纽约时报》,将在其网站的评论版块进行测试。据悉,维基百科对这款软件也是春心大动,但何时、如何使用这款软件还不得而知。


根据报道,Conversation AI可以利用机器学习自动跟踪侮辱性的言论,并对其攻击性给予评分,从0-100分,分数越高表明该言论的伤害性越高。它能自动标识侮辱性的言论,训斥骚扰别人的人,或自动删除污言秽语,它甚至能够在这些侮辱性的言论被其攻击目标看到之前就删掉它们。


据悉,Conversation AI软件目前的识别准确率仅有92%,在获得大量的样本和数据后,这一准确率或将得到改善。


这款软件最终有望开源,如果能够有效使用,它将对各种网站或社交媒体平台带来不可估量的价值。不说国外,就说国内的微博上的各种垃圾言论就可以得到有效清理。比如任桥梁去世后,很多脑残网友跑到任桥梁生前好友陈乔恩的微博评论区进行言语攻击,问她为何不表达哀悼 。如果有了这项人工智能监测、清理技术,至少可以过滤掉那些极端恶毒甚至带有人身攻击的言论。


而很多明星、名人经常在微博上遭到网友的道德绑架,或许人工智能技术可以改善这种糟糕的舆论环境。


当然还有很多网站也存在这种情况,包括以地域歧视著称的某门户网站的评论区将得到很大的缓解。


但遗憾的是,谷歌的这项技术估计因为众所周知的原因,它将遗憾地不能在国内被使用。那么,国内的哪家公司会推出类似的技术呢?可能最合适的是经常被拿来跟谷歌进行比较的百度,并且百度今年以来在努力转型、大力发展人工智能技术。但它会做出这种有公益性质的产品吗?或许它最应该推出的是一款能够自动识别虚假广告的人工智能技术,以保障网友在浏览中避免陷入某种信任盲区。


谷歌已经在行动了,国内呢?

关注微信公众号虎嗅网(huxiu_com),定时推送,福利互动精彩多 虎嗅微信公众号
阅读(816) 评论(0)