滚动新闻 | RSS订阅 | 网站地图 |
你好,游客 登录 注册 搜索

谷歌AI主管谈AutoML的偏见和自动化武器

发布时间:2018-05-14 10:23:58  来源:网易智能   编辑:张宏伟  背景:

  大约一个月前,谷歌搜索和人工智能主管John Giannandrea离职,其AI研究部分业务被谷歌大脑研究部门的负责人Jeff Dean接管。在AI持续覆盖谷歌各产品线和服务的时刻,Google Research近期也更名为 Google AI。

  周二,随着谷歌在I/O大会上推出了数十项新功能和更新,Jeff Dean分享了他对未来的展望。这些新功能和更新包括:为移动应用开发者提供的ML工具包(ML Kit)、第三代张量处理单元芯片( tensor processing unit chips)计划,以及可以协助用户拨打电话的谷歌助手。

  在此基础上,Dean阐述了人工智能带来的机会:创造新产品,以及为人类以前从未考虑过的问题找到解决方案。 不仅如此,他还看到了伴随AutoML技术而产生的挑战,AutoML是一种可以创建其他人工智能模型的人工智能模型。此外,他不认为谷歌应该从事制造自主武器的业务。

   通用人工智能(AGI)的兴起

  今天,世界上大部分人工智能仅支持完成一个单一的、狭窄的用例,例如单句的语言翻译。但Dean表示,他希望谷歌能创建更多的人工智能模型,以实现多个任务,并实现一种“对世界的常识推理”。

  他说:“我认为,在未来,你会看到我们更多地转向那些能够处理多个事件的模型,然后利用这些经验积累经验,这样当我们想要训练一个模型去做其他事情的时候,它就能建立起其已经拥有的技能和专业技能。”

  举个例子,如果一个机器人被要求去捡一些东西,它就会明白手是如何工作的,重力是如何工作的,以及对这个世界的其他理解。他说:“我认为这将是一个你将在未来几年内看到的重要趋势。”

   AutoML的偏见和不透明性挑战

  AutoML,这是一个可以创造子AI的AI系统,令人兴奋还是令人恐惧?这个问题的答案取决于你的对象。机器肯定与AI反对者持不同意见。不过,谷歌云计算(Google Cloud )首席科学家李飞飞表示,从高端开发者到东京的拉面店老板, AutoML通过为每个人创建定制的人工智能模型来降低门槛。

  Dean觉得这很令人兴奋,因为它帮助谷歌实现“解决问题的自动化(automatically solve problems)”,但 AutoML的应用也会带来独特的问题。

  他说:“因为我们使用的更多的是学习系统,而不是传统的手工编码软件,我认为这给我们带来了很多挑战。其中一个挑战是,如果你从带有偏见的数据中学习,那么基于此学习的机器学习模型就会使这些偏见延续下去。”因此,我们正在做的大量工作,以及机器学习领域的其他工作,都是为了弄清楚我们如何能够训练那些没有偏见的机器学习模型。”

  另一个挑战是:如何正确地使用AutoML设计安全关键系统(safety-critical systems),从而在医疗保健等行业应用人工智能。数十年的计算机科学实践已经为实现手工编码这样的系统奠定基础,同样,机器领域也需要这样的大量工作。

  Dean说,当你对狗的种类进行分类时,犯错误是一回事,而在安全关键系统中犯错则完全是另一回事。他说:“我认为这对我们来说是一个非常有趣和重要的方向,特别是当我们开始在更多安全关键系统中应用机器学习的时候,这包含那些正在决定你的医疗保健或自动驾驶汽车的事情。”

  安全关键性人工智能需要更多的透明度

  周二,与谷歌人工智能助手新功能以及Android P测试版发布消息一起,谷歌CEO桑达尔⋅皮查伊(Sundar Pichai)谈到了谷歌如何将人工智能应用于医疗保健,基于电子健康记录的信息来预测患者的重新接纳。此外,谷歌研究人员在《Nature of Digital Medicine》上发表了一篇文章,解释了为什么其人工智能会对病人做出某些决定,这样医生就可以在医疗记录中看到推荐的理由。

  在未来,Dean希望一个想知道人工智能为何做出某特定决定的开发者或医生,能够简单地以询问人工智能模型的方式获得反馈。

  Dean说,今天,在谷歌产品中应用人工智能需要一个内部审查过程。谷歌目前正在开发一套指导方针,用于评估人工智能模型是否包含偏见。他说:“你想要的基本上是,就像产品的新功能的安全审查或隐私审查一样,你想要一个机器学习公平审查(ML fairness review),这是将机器学习融入我们的产品的一部分。”

  Dean说,当开发人员通过诸如ML工具包或TensorFlow这样的工具来实现人工智能时,人类也应该成为决策过程的一部分,而这类工具的下载量已经超过1300万次。

  在人工智能武器上画线

  在回答一个问题时,Dean 表示,他不认为谷歌应该从事制造自主武器的业务。今年3月,有消息称,谷歌正与美国国防部合作,改进对无人机收集视频的分析。他说:“当整个社会开始发展更强大技术的时候,我认为,机器学习和人工智能会产生许多有意思的伦理问题。”

  “我个人已经签署了一封信(大约是六到九个月前的一封公开信,确切时间未知),以此表达我对机器学习应用于自动化武器领域的反对。 ”我认为,很明显,我们想要做出什么样的决定与公司的决定是一个连续统一体。我认为大多数人对自动化武器系统的应用感到不安。”根据《纽约时报》的报道,数千名谷歌员工已经签署了一封信,要求谷歌不参与“战争技术(warfare technology)”的创建,因其可能会对谷歌的品牌和公司与公众之间的信任造成无法弥补的损害。Dean没有具体说明他是否签署了《纽约时报》报道中提到的那封信。

  人工智能驱动新的项目和产品

  除了病人重新接纳AI和一个旨在了解莫尔斯电码的Gboard,Pichai 还强调了一项先前发布的人工智能研究,该研究准确地检测出了糖尿病视网膜病变,并像受过高度训练的眼科医生那样预测到问题的出现。人工智能模型的智能化程度已经开始超越对人类活动的模仿层面,其正在帮助谷歌发现新产品和新服务。

  Dean说:“通过使用大量数据来训练这些模型,我们实际上可以做一些我们不知道我们能做的事情,这是一个非常基本的进步。我们现在正在创造一种全新的测试和产品,而不是仅仅用人工智能来辅助训练系统。”


本文来源:网易智能

本文评论
库克杜克大学演讲:为奋斗而无所畏惧
当地时间上周日,苹果公司CEO蒂姆-库克(Tim Cook)“荣归故里”回到了他的大学母校美国杜克大学,并在杜克大学的毕业典礼上发表演讲。
日期:05-14
谷歌AI主管谈AutoML的偏见和自动化武器
大约一个月前,谷歌搜索和人工智能主管John Giannandrea离职,其AI研究部分业务被谷歌大脑研究部门的负责人Jeff Dean接管。在AI持续覆盖谷歌各产品线和服...
日期:05-14
库克确认本周日将回母校杜克大学发表毕业演讲
苹果公司首席执行官蒂姆·库克将于当地时间本周日在杜克大学为毕业生发表毕业演讲。库克是杜克大学1988届毕业生。
日期:05-11
巴菲特:无人驾驶颠覆产业格局 保险公司将成输家
自动驾驶成为时下科技行业的热点,从硅谷科技公司,到德日美汽车巨头都已经投入资源进行研发。
日期:05-10
谷歌AI负责人:人工智能的发展需要与政府部门合作
据外媒报道,谷歌人工智能业务负责人、顶级计算机科学家杰夫·迪恩(Jeff Dean)表示,在围绕人工智能、隐私保护和假新闻的紧张气氛中,谷歌已看到与全球政府部门合作的重要性。
日期:05-09
《西部世界》科学顾问:若机器人有情感 人类就完了
 在《西部世界》第二季,HBO请了斯坦福大学神经科学家大卫⋅依格曼(David Eagleman)担任节目的科学顾问。最近,依格曼在接受《科学》杂志采访时谈及了人类应该怎样看待AI的反抗。
日期:05-08
远见家or莽夫 孙正义的豪赌重塑科技行业格局
北京时间5月7日消息,《日经亚洲评论》刊文称,手握960亿美元的投资资金,孙正义颠覆了科技风投行业。然而,他的投资也引发了争议。
日期:05-07
罗永浩:37000人,5月15号,2款产品,1次革命
 老罗又再微博放预告了,今天老罗这样表示,“37000人,5月15号,2款产品,1次革命。”
日期:05-07
马斯克再斥做空者:我劝你赶紧悄悄离开
[摘要]马斯克称:“看来一切到来得比想象中更快,这种大规模的做空完全是不切实际的行为。如果你是盯着特斯拉的空头,那么我建议你安静又自觉的离开...
日期:05-05
三星掌舵人李在镕来华 还去小米之家转悠了一圈
知情人士称,李在镕在本周早些时候抵达中国,随后拜访了包括比亚迪汽车、华为和小米等中国主要IT公司的高层决策者。
日期:05-05
苹果CEO库克:对能有巴菲特做大股东感到激动
北京时间5月5日凌晨消息,苹果公司CEO蒂姆·库克(Tim Cook)周五称,他对能有传奇投资人沃伦·巴菲特(Warren Buffett)及其麾下伯克希尔哈撒韦...
日期:05-05
贝索斯:不要为失败而后悔 未曾尝试过才让人遗憾
《福布斯》杂志估计,这位现年54岁的企业家身价高达1305亿美元。他说,要做什么事情不仅由专业来决定,也需要考虑生活因素。
日期:05-04
马斯克:年内公布中国电池工厂选址
当分析师向马斯克提问第二座工厂时,他表示会在今年晚些时候宣布决定,不会晚于第四季度。
日期:05-03
罗永浩:我们的无线充电器不止一款
 之前网上曝光了锤子无线充电自作,锤子科技产品线&硬件研发副总裁吴德周透露,锤子新旗舰不仅支持无线充电,还是大功率无线快充。
日期:04-28
北大校庆李彦宏捐6.6亿!系校友捐赠最大额
北京大学迎来了迄今为止最大的一笔校友捐款。
  原标题:6.6亿!北大最大额校友捐赠,李彦宏捐的:为双甲子庆生
  4月28日,为庆祝北大建校12...
日期:04-28
柯洁又输人机大战!
4月27日电 (闫旭)“确实它的计算和对大局的判断都是在我之上的。也不知道自己表现的好或者坏,因为确实很难下。”27日,再次输给人工智能的柯...
日期:04-28
高通CEO莫伦科夫:相信中美会和解 收购恩智浦交易会获批
据外媒报道,高通首席执行官史蒂夫-莫伦科夫(Steve Mollenkopf)称,中美关系紧张阻碍了大宗交易,但是这种情况可能会及时发生变化,高通最终能够敲定收购恩智...
日期:04-27
荣耀赵明:AI创新度行业严冬 手机行业存三种跟风
原标题:荣耀赵明:AI创新度行业严冬 手机行业存三种跟风
日期:04-26
雷军:小米硬件综合净利率永远不超5%!
雷军提出,小米6X和竞品有着几乎相同的配置,但为什么能做到几乎一半的价格?这来源于小米与众不同的价值观:“感动人心,价格厚道”。
日期:04-25
倪光南:中兴事件必然会发生 中国芯短板主要在制造
因为中兴遭受美国制裁和当年助手的一篇微信刷屏文章,79岁的中国工程院院士倪光南被推上了各家媒体的新闻头条。
日期:04-25