滚动新闻 | RSS订阅 | 网站地图 |
你好,游客 登录 注册 搜索

偏见只存在于人类世界?NO!机器人也有偏见

发布时间:2018-09-08 09:41:35  来源:腾讯数码   采编:黄静  背景:

  (原标题:原来人工智能机器人和人类一样可以产生偏见)

   不仅仅是人类和动物能够对外界和环境存有偏见,来自麻省理工学院和加的夫大学的心理学和计算机科学研究人员发现,人工智能机器人同样可以通过相互学习来产生偏见。

  人工智能常常与种族主义和性别歧视有着复杂的关系,我们已经看到以前的人工智能表现出这种偏见,就像过去几年里我们看到的微软聊天机器人所作所为一样。然而根据这项研究表明,人工智能其实本身就有可能形成偏见。研究人员表示:“一组自动机器人可以通过简单地识别、复制和学习这种行为来表现出偏见。”

  这些学者们建立了一个模拟游戏,每个人工智能机器人都根据每个机器人的声誉和捐赠策略,选择在自己的团队或另一组中投票给另一个机器人。研究人员发现,机器人对来自其他群体的机器人出现越来越多的偏见。

  在成千上万的模拟实验中,机器人通过在自己的群体中或在整个人群中相互复制来学习新的策略。研究发现,这些机器人在短期内会给它们带来更好的回报,这表明高认知能力并不一定需要长时间的培养偏见。

  “通过我们的模拟测试显示,偏见是一种强大的自然力量,通过进化,它很容易在虚拟人群中受到激励和刺激,从而损害与他人的更广泛的联系,”该研究的共同作者之一、加的夫大学教授Roger Whitaker写道。“保护不受审判前群体的保护,会在无意中导致个人形成更多的偏见意识,导致数量和观点的分裂,而这种普遍的偏见很难逆转。”

  对于那些可能会问“为什么我们不能和睦相处”的人来说,这是一种希望。在某些情况下,包括在一个群体中有更多不同的子群体,偏见程度较低。

  “随着更多的亚群体,非司法组织的联盟可以在不被剥削的情况下进行合作。这也降低了他们作为少数群体的地位,减少了对偏见的敏感性。然而,这也需要一些情况,在这种情况下,代理人在团队之外的互动中有更高的倾向,”Whitaker说。

  在本周向美国国会发表的证词中,Twitter首席执行官杰克·多尔西谈到了人工智能开发者在减少意外偏差方面的问题。除非开发人员和计算机科学家能够弄清楚如何保持人工智能,让我们只希望机器人不会突然决定不喜欢我们人类面孔的外观,尤其是当它们变得更加自主的时候。


本文来源:腾讯数码

本文评论
人工智能还能怎么玩?谷歌反手就是一个红狮子雕塑
这两天,伦敦设计展开始了,与往年不同,今年来了一个不速之客。
日期:09-19
用AI创造AI R2.ai领跑人工智能开发与应用
2018年9月,历经三年的潜心设计、研发与检验,总部位于硅谷并在上海与杭州设有分支机构的人工智能公司R2.ai, Inc.正式发布其系列AI解决方案的第一款产品 ...
日期:09-18
身份识别技术,只是智慧城市的第一步
(原标题:剖开身份识别 这只是智慧城市的第一步)
日期:09-18
2299元 小米生态链推情感机器人 高度还原人类动作
目前,市场上教育陪伴型的机器人众多,但是却没有一家机器人在应用上、心理上、功能上、以及表现力上,具备机器人该有的表现。归根结底,是因为目前市场...
日期:09-17
AI检测生物钟:未来可对自己生物钟了如指掌
(原标题:AI检测生物钟 精准医疗或成最大“受惠者”)
日期:09-17
用机器人当服务员的酒店,你想去住吗?
随着科技的发展
  越来越多的职业正在被智能替代
  举几个栗子
  你现在还坐过人工售票的公交车吗?
  去肯德基麦当劳还要排...
日期:09-14
AI可以识别图像,但它能理解标题吗?
2012年,人工智能研究人员发现,通过向一个名为ImageNet的数据库提供数以百万计的标签图像,计算机识别图像的能力会有很大的提高。这使得计算机视觉进入...
日期:09-11
AI智能互联的未来世界还远吗?
(原标题:都用上AI智能手机了,还觉得AI时代远吗?)
日期:09-11
制造人工智能需要“人工心灵”还是“人工大脑”
(原标题:人工智能究竟是要造就心灵还是造就大脑,这分歧直到如今仍然存在)
日期:09-11
人工智能将作为人类智慧的一部分?
人工智能可以作为人类智慧的一部分,是为人类服务的。因此人工智能的研究也就要力求在某一方面超越人。但是,如果人工智能的研制在一个方面超越了人类,...
日期:09-10
「Amadeus Code」用 AI 为音乐创作者提供创作灵感
每个人或多或少都会经历过以下这一场景:走在路上,脑海中涌现出一段旋律,顺势你就把它哼了出来 。而现在,有一款 App 可以帮你把音乐灵感谱成一首完整...
日期:09-08
偏见只存在于人类世界?NO!机器人也有偏见
(原标题:原来人工智能机器人和人类一样可以产生偏见)
日期:09-08
不要害怕 即使人工智能时代到来 也不会是一个黯淡的世界
人工智能(AI)不会消除对人类工作者的需求,并创造一个由邪恶机器运行的反乌托邦环境。相反,该技术将有助于人类思维多样化,并加强人与自动化系统之间的...
日期:09-08
国双勇夺“中国法研杯”司法人工智能挑战赛冠军
日前,为了促进法律智能相关技术的发展,在最高人民法院信息中心、共青团中央青年发展部的指导下,中国司法大数据研究院、中国中文信息学会、中电科系统...
日期:09-07
电话推销中,你分辨得出来是人工还是机器人吗?
在这个信息爆炸的时代,我们所有的信息都可以通过数据来体现。任何东西都可以被量化,客观的去分析,从而做出自认为是正确的判断。
日期:09-07
在未来,人工智能或许会对你身体姿势的秘密了如指掌
相信很多人都有这样一个经历,走在路上前面有个人看背影挺熟悉,于是赶忙跑过去拍人家肩膀。结果一回头,大写的尴尬。
日期:09-07
关于人工智能您知道多少?
人工智能是一个舶来语,英文为Artificial Intelligence,缩写为AI。人工智能是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一...
日期:09-07
第一批脱发的90后,离被人工智能解救还有多远?
据说现在的90后,要么在脱发,要么快要开始脱发。2017年9月,阿里健康联合阿里数据,对外发布了《拯救脱发趣味白皮书》。数据显示,在购买植发护发的消费...
日期:09-06
人工智能时代来临后我们或许再也不用在意售货员的眼神了
近些年随着科技的快速发展,人工智能的概念逐渐清晰。特别是作为OTT行业的重要组成部分,格外被行业所关注。那么人工智能为何必须发展?
日期:09-05
从摩尔定律到人工智能,指数定律释放人类潜能
你学过指数吗?恐怕没几个人会对这个问题说 “No”。那么,你对指数式发展有什么样的认识?这个问题回答起来也许就没那么容易了。然而,指数式发...
日期:09-05