滚动新闻 | RSS订阅 | 网站地图 |
你好,游客 登录 注册 搜索

人工智能的极限?那些删不完的网络仇恨言论

发布时间:2018-05-17 11:30:08  来源:TechNews科技新报   采编:张宏伟  背景:

  Facebook 非常擅长移除平台上的色情、暴力、犯罪等内容,社交巨头在 16 日公布了「年度透明度报告」(Facebook Transparency Report),详细列出各种违反社交准则内容被移除的比例,但详细观察后会发现,「仇恨言论」移除的比例相当低,难不成是世界和平,大家都口说好话不再攻击彼此了吗?不,这背后其实跟人工智能(AI)系统的能力极限有关。究竟为什么 AI 下围棋能赢人类、 AI 机器人都能获得公民权的现在,仍赶不上仇恨言论增生的速度呢?

  Facebook 公布年度透明度报告,仇恨言论移除比例最低

  在外界纷纷期待 Facebook 拿出魄力整顿平台仇恨内容的态势下,Facebook 大幅提高了今年(2018)内容审查团队的预算,预计在今年底前聘用 1 万名审查人员。

  16 日公布的「年度透明度报告」(Facebook Transparency Report)多达 86 页报告中,Facebook 公布今年第一季共删除了 5.83 亿个假帐号、8 亿 6,580 万则贴文,Facebook 将这些内容分为六大类,从数字来看,系统主动清除暴力内容比例是 86%、色情内容 96%,垃圾内容比例更高达 100%,令人意外的是,仇恨言论比例只有 38%,是所有类别最低的。

  仇恨言论方面,科技技术仍无法运作顺畅,仍需透过人工审查团队协助。第一季成功移除了 250 万则仇恨言论贴文,其中 38% 仇恨言论是由我们的科技揪出。──Facebook

  歧视用语使用情境不同,仇恨言论难判断

  但这其实不能完全责怪 Facebook,原因是目前人工智能(AI)对于仇恨言论定义的理解仍不够深刻。

  举例来说,歧视性用语在某些情况下也会用于戏谑、自我解嘲等目的,而这些用语大多只在特定语境(包括个人主观因素、地域差异、时代差异影响)才会产生歧视性意义,所以并没有明确标准可判定某种用语是否为歧视,人类对「贬义、侵略性的内容」判定很主观,甚至因人而异,不要说机器,甚至连人类自己判断可能都没统一的标准。

  Facebook 产品管理副总裁罗森(Guy Rosen)就点出其中的困难处:

  像是 AI 这类的科技,要准确判断所有有害内容还有一段路要走,举例来说,AI 还没有足够的能力,辨识一个人是在散布仇恨,或只单纯描述自身被伤害的经验,这可能会衍生出一些问题。

  ▲ 没有明确的标准可判定某种用语是否歧视,人类对「贬义、侵略性的内容」判定很主观,甚至因人而异。(Source:pixabay)

  除了用词本身,使用情境也是一大关键,假设有一个用户,只是单纯发文讲述他被当众羞辱的经验,描述的文字引用包含仇恨内容的原句,那这样的贴文算不算仇恨言论内容?应不应该强制移除?身为人类的我们都能同意这样的内容不算数,但 AI 又该如何理解这两者之间的细微差别呢?

  另外,从文化面来说,有些字眼也许在某些文化中是贬抑,但在另一种文化却没有这个意思,又或者是同形异义,这些又该如何让 AI 理解呢?

  扎克伯格乐观看待,5 到 10 年内开发新 AI 工具

  如同扎克伯格自己贴文所说:「我今年的首要任务是要让人们感到安全。」为了将伤害降到最低,即使拥有大量科技资源的 Facebook,仍倾向使用人工审查来把关内容。

  今年刚落幕的开发者大会 F8,Facebook 也谈到,「要完全理解人类的语境,还是需要透过人类的双眼,我们的团队会亲自审查,确定没问题。」

  ▲ 扎克伯格表示,未来 5 至 10 年内,Facebook 可开发出精准理解语意细微差异的 AI 工具。(Source:Facebook)

  扎克伯格也在听证会表示,他相信未来 5 到 10 年内,Facebook 可开发出能精准理解语意细微差异的人工智能工具,将能更准确标记仇恨言论,他对这样的未来相当乐观。


本文来源:TechNews科技新报

本文评论
锤子感恩节特惠:手机最高直降1000元 配件1元起
锤子科技官方商城推出感恩节特惠活动,即日起至26日,前往锤子科技官方商城即可享受感恩节专场优惠,包括手机、空气净化器、配件等都有降价。
日期:11-21
华为、三星靠边站!高通骁龙8150终于要来:12月4日登场
今年三大安卓手机旗舰SoC已经发布了两个,海思麒麟980、三星Exynos 9820已经亮相。待高通骁龙8150登场后,我们就能知道明年的旗舰手机都会有什么样的性能...
日期:11-21
OPPO用户苦等!ColorOS 6即将亮相 或基于安卓9.0
昨天,OPPO宣布将于11月22日在深圳举办ColorOS五周年庆典,本次庆典上将带来ColorOS 6的一些信息。同时,魅族前Flyme设计师陈希发微博表示,将在11月22日...
日期:11-21
彻底杠上雷军!联想副掌柜莫名怼小米:Z5Pro侠,颤抖吧,小米!
北京时间11月21日清晨05:53分,联想集团副总裁突然微博叫板小米:
日期:11-21
华人运通成为轮毂电动轮行业标准制定主要牵头单位
【2018年11月16日】近日,出行科技创新公司华人运通宣布作为主要牵头单位参与国内第一套汽车用轮毂电动轮行业性标准的制定。该系列标准由中国汽车工程学...
日期:11-19
魅族会用上“挖孔”全面屏?黄章回应称魅族16是最佳全面屏方案
时间来到2018年最后的两个月,在今年这一整年里,国产全面屏百花齐放,我们见到了各种各样的全面屏手机,比如OPPO Find X和vivo NEX的弹出式全面屏手机,...
日期:11-19
OPPO R19钦定?骁龙7150规格大曝光:8nm+A76
下个月,高通将在夏威夷举行技术沟通会,届时将发布三款移动平台,分别为旗舰移动平台骁龙8150,次旗舰移动平台骁龙7150,中端移动平台骁龙6150,分别对...
日期:11-19
电商冲击太大,英国零售企业陷倒闭潮每天歇业14家
中新网11月18日电 据欧联通讯社报道,日前,英国会计师事务所普华永道(PwC)发布市场调查分析报告称,英国零售业实体店正在面临着近5年来的最艰难时刻。20...
日期:11-18
Siri不智障啦 苹果新专利显示Siri或有离线模式
(原标题:苹果新专利暗示Siri或可离线使用)
   苹果的人工智能Siri一直都被网友“亲切”的称呼为人工“智障”,在没有网...
日期:11-16
苹果新专利 FaceTime或出现在Watch手表
外媒报道,苹果公司近日获得的一项专利,暗示其Apple Watch可能很快就能为佩戴者提供FaceTime的视频聊天功能。这项名为“图像捕捉手表”的专利...
日期:11-16
5G版三星Galaxy S10或抛弃骁龙8150,只用Exynos 9820
据外媒PhoneArena报道,虽然5G是一个相当新的概念,但是三星已经在开发Galaxy S10的5G版本了。爆料显示,5G版Galaxy S10不会使用高通的芯片,这也就意味...
日期:11-16
传小米要与美图合作 拍照性能有望提升
最新消息显示,最近小米正在与美图就手机业务进行接触,双方本次接洽并非业务收购,而是就相机方面业务进行合作。网上传闻,小米试图获得美图公司包括影...
日期:11-16
三星12种开孔屏曝光  哪一种款式最漂亮?
(原标题:三星开孔屏更多专利曝光,共12种款式!)
日期:11-16
里程碑!中兴通讯成功实现5G通话上网:已能发送微信
11月14日,中兴通讯官方正式宣布,该公司在上海完成了5G通话上网的测试,工程师可以直接通过5G网络来收发微信。
日期:11-15
不采用三星Exynos 9820 魅族16s或是第一批搭载高通骁龙8150的机型
(原标题:魅族16s不采用三星Exynos 9820,或拥抱骁龙8150)
日期:11-14
秒麒麟980!三星Exynos 9820发布:规格逆天
今天,三星正式发布了旗下的新一代旗舰级Soc Exynos 9820,这是目前Android领域内规格最强的SoC,没有之一。
日期:11-14
魅族Flyme官宣 您的贴心小秘书即将上线
在众多国内深度定制优化的安卓系统的UI当中,魅族的Flyme一直凭借独特的设计与轻便的交互得到广大用户的一致好评。昨夜晚间8时许,魅族Flyme官方微博公布...
日期:11-14
独家 | 百万日活的「网易星球」使用的底层区块链平台是什么?
作者 卢晓明
  开源是最适合区块链的运作方式。
  在大公司光环与区块链风口加持下,网易首款区块链产品“网易星球”上线不到...
日期:11-13
Android Q将优化分屏多任务功能:支持两款以上APP同时运行
自Android 8.0开始,Android系统中就已经引入了分屏多任务的功能,该功能的优点在于如果活动支持多窗口模式且在拥有多个屏幕的设备上运行,用户可以将当...
日期:11-13
“高铁生鲜专线”运输全程直播 高铁+无人机黄金运力组合引关注
产地打包、无人机运输、高铁接驳,11月12日,中铁顺丰使用“高铁生鲜专线”产品将一箱赣南脐橙,从产地直发一路护送到消费者手中,并借由澎湃...
日期:11-12