滚动新闻 | RSS订阅 | 网站地图 |
你好,游客 登录 注册 搜索

人工智能的极限?那些删不完的网络仇恨言论

发布时间:2018-05-17 11:30:08  来源:TechNews科技新报   编辑:张宏伟  背景:

  Facebook 非常擅长移除平台上的色情、暴力、犯罪等内容,社交巨头在 16 日公布了「年度透明度报告」(Facebook Transparency Report),详细列出各种违反社交准则内容被移除的比例,但详细观察后会发现,「仇恨言论」移除的比例相当低,难不成是世界和平,大家都口说好话不再攻击彼此了吗?不,这背后其实跟人工智能(AI)系统的能力极限有关。究竟为什么 AI 下围棋能赢人类、 AI 机器人都能获得公民权的现在,仍赶不上仇恨言论增生的速度呢?

  Facebook 公布年度透明度报告,仇恨言论移除比例最低

  在外界纷纷期待 Facebook 拿出魄力整顿平台仇恨内容的态势下,Facebook 大幅提高了今年(2018)内容审查团队的预算,预计在今年底前聘用 1 万名审查人员。

  16 日公布的「年度透明度报告」(Facebook Transparency Report)多达 86 页报告中,Facebook 公布今年第一季共删除了 5.83 亿个假帐号、8 亿 6,580 万则贴文,Facebook 将这些内容分为六大类,从数字来看,系统主动清除暴力内容比例是 86%、色情内容 96%,垃圾内容比例更高达 100%,令人意外的是,仇恨言论比例只有 38%,是所有类别最低的。

  仇恨言论方面,科技技术仍无法运作顺畅,仍需透过人工审查团队协助。第一季成功移除了 250 万则仇恨言论贴文,其中 38% 仇恨言论是由我们的科技揪出。──Facebook

  歧视用语使用情境不同,仇恨言论难判断

  但这其实不能完全责怪 Facebook,原因是目前人工智能(AI)对于仇恨言论定义的理解仍不够深刻。

  举例来说,歧视性用语在某些情况下也会用于戏谑、自我解嘲等目的,而这些用语大多只在特定语境(包括个人主观因素、地域差异、时代差异影响)才会产生歧视性意义,所以并没有明确标准可判定某种用语是否为歧视,人类对「贬义、侵略性的内容」判定很主观,甚至因人而异,不要说机器,甚至连人类自己判断可能都没统一的标准。

  Facebook 产品管理副总裁罗森(Guy Rosen)就点出其中的困难处:

  像是 AI 这类的科技,要准确判断所有有害内容还有一段路要走,举例来说,AI 还没有足够的能力,辨识一个人是在散布仇恨,或只单纯描述自身被伤害的经验,这可能会衍生出一些问题。

  ▲ 没有明确的标准可判定某种用语是否歧视,人类对「贬义、侵略性的内容」判定很主观,甚至因人而异。(Source:pixabay)

  除了用词本身,使用情境也是一大关键,假设有一个用户,只是单纯发文讲述他被当众羞辱的经验,描述的文字引用包含仇恨内容的原句,那这样的贴文算不算仇恨言论内容?应不应该强制移除?身为人类的我们都能同意这样的内容不算数,但 AI 又该如何理解这两者之间的细微差别呢?

  另外,从文化面来说,有些字眼也许在某些文化中是贬抑,但在另一种文化却没有这个意思,又或者是同形异义,这些又该如何让 AI 理解呢?

  扎克伯格乐观看待,5 到 10 年内开发新 AI 工具

  如同扎克伯格自己贴文所说:「我今年的首要任务是要让人们感到安全。」为了将伤害降到最低,即使拥有大量科技资源的 Facebook,仍倾向使用人工审查来把关内容。

  今年刚落幕的开发者大会 F8,Facebook 也谈到,「要完全理解人类的语境,还是需要透过人类的双眼,我们的团队会亲自审查,确定没问题。」

  ▲ 扎克伯格表示,未来 5 至 10 年内,Facebook 可开发出精准理解语意细微差异的 AI 工具。(Source:Facebook)

  扎克伯格也在听证会表示,他相信未来 5 到 10 年内,Facebook 可开发出能精准理解语意细微差异的人工智能工具,将能更准确标记仇恨言论,他对这样的未来相当乐观。


本文来源:TechNews科技新报

本文评论
苹果曝光新专利:iPhone X或支持静脉扫描
日前,美国专利商标局公开了苹果的一项专利,专利名为“用脉冲辐射检测静脉成像”。
日期:05-17
中国邮政EMS水陆两栖无人机试飞成功
《每日经济新闻》记者5月17日独家获悉,中国邮政EMS水陆两栖无人机当日在湖北荆门试飞成功。
日期:05-17
吴恩达旗下Drive.ai测试全程无驾驶员自动驾驶
这辆无人驾驶车从停车位驶出,穿越一条6车道的公共路段,在穿越前,车辆对横向车道上的路况进行了判断,途中车辆还经过了环形道路以及落日夕阳对检测系统的干扰,对这些道路情况,车辆都完成了顺利应对。
日期:05-17
工信部:将在5G和车联网等重点领域推动AI应用
[摘要]主管部门将加大AI应用推广力度,紧抓人工智能发展这一历史性机遇,加强与人工智能技术对接。
日期:05-17
外媒:中国人对新技术更开放 无人店模式更适合中国
据福布斯杂志报道,中国先是有了无人机,随后又测试无人船,现在没有人类员工的各种门店也悄然出现。无人店虽然并非中国所独有,但在中国发展却更为迅猛...
日期:05-17
AI能帮科学家找到外星人吗?或许它能给出“意外提示”
 5月17日消息,据科学美国人杂志报道,在寻找外星智慧生命(SETI)的过程中,我们经常寻找与我们拥有类似智慧、技术和交流方式的生命体。
日期:05-17
受手机严重冲击:中国电视必须向智能化转型
不少彩电厂商认为,电视市场的前景依旧光明,现在是“黎明前的黑暗”,而要迎来黎明,电视厂商们需要打一场突围之战,行业专家认定:内容化、...
日期:05-17
魅族架构再调整 魅族与魅蓝分拆一年后再合并
这是魅族创始人黄章去年回归之后的第三次组织架构调整,也许是因为分拆后的市场效果未达预期,也许是为了上市做准备,这次调整对于魅族来说非常关键。
日期:05-17
回应三星!抄袭?苹果说不可能的
 昨天,苹果和三星因为初代 iPhone 的专利案再次回到法庭,双方针对罚金的数额做了最后的辩护。
日期:05-16
坚果R1的1TB存储够用?4TB手机了解下
昨晚锤子科技在鸟巢举办了发布会,正式发布了包括坚果R1、坚果TNT工作站在内的多款产品。其中坚果R1最特别的地方在于其最顶配拥有8GB+1TB的存储配置,这...
日期:05-16
Canalys:中国智能手机品牌在非洲对三星发起强有力挑战
5月16日据国外媒体报道,Canalys刚刚发布了非洲智能手机市场的第一季度出货量报告。从报告结果来看,三星在非洲市场依然排名第一,并且涨势强劲,同比增幅达到42%。
日期:05-16
刚刚 滴滴公布了顺风车阶段整改措施!
日前,滴滴顺风车乘客遇害一事引发广泛关注。滴滴此前已经宣布对顺风车业务全国暂停整顿一周(5月12日零时起)。
日期:05-16
Neoptera电动垂直起降飞机比例模型将下个月试飞
生物学家知道新翅亚部(Neoptera)是一个主要的分类学类目,其中包括几乎所有有翅昆虫。然而,现在Neoptera也成为计划中的电动垂直起降(VTOL)轻型飞机的名...
日期:05-16
韩国AI大作战:投2.2万亿韩元 培养五千AI专家
 据外媒报道,韩国政府将在未来五年向公共部门的人工智能项目投资2.2万亿韩元(约合130亿元人民币),同时培养约5000名人工智能专家。
日期:05-16
紧追苹果 谷歌AI新闻聚合服务Google News美国上架
5月16日据国外媒体报道,在上周的谷歌I/O开发者大会上,谷歌发布了全新的人工智能Google News应用,目前这款应用已经在苹果App Store上架,取代了原来谷...
日期:05-16
AI测谎仪检测非法移民 已在美墨西边境启用
近几年,美国、加拿大和欧盟已在其边境测试了AVATAR。研究者称其检测成功率高达八成。
日期:05-16
如何紧急控制自动驾驶汽车?谷歌:实在不行剪元件
最近外媒曝光的一份长达41页的文件显示,谷歌旗下的自动驾驶汽车公司Waymo正和警方交流,在一些紧急状态下,如何阻止、控制或破坏自动驾驶汽车。
日期:05-16
卡内基梅隆大学开始发AI本科学位 每年35个学生
据外媒报道,卡内基梅隆大学计算机科学学院将从今年秋季学期开始提供人工智能本科学位。这家位于匹茨堡的学校是美国第一所提供此类课程的学校。许多行业...
日期:05-16
5G等技术突破带动VR回暖 美国投资最多中国紧随其后
CB Insights数据显示,2013年至2017年年中,全球AR/VR产业投资中,美国所占份额达到61%,成为当之无愧的领导地区,中国、英国、加拿大和法国分别以7%、5%、3%、3%的份额紧随其后。
日期:05-16
人工智能将如何影响核战争?
 核武器,始终是高悬在人类头顶的达摩克利斯之剑。
日期:05-16