滚动新闻 | RSS订阅 | 网站地图 |
你好,游客 登录 注册 搜索

AI时代 我们会不会变成“透明人”?

发布时间:2018-09-25 10:35:38  来源:《IT时报》   采编:黄静  背景:

  (原标题:AI时代,人们还有隐私可以保护吗?)

  当AI越来越懂人类时,大家担心,自己会不会变成“透明人”?AI能为人类创建一个安全可信的智能未来吗?未来,AI会掌控世界吗?当AI掀起一波又一波的热潮,对于AI带来的不安全性、不稳定性以及威胁性,人们也越来越关注。在2018世界人工智能大会安全高端对话论坛上,一系列关于AI安全的问题被抛出,而在论坛上正式发布的《人工智能安全发展上海倡议》中,也提出了应对人工智能安全风险应对和未来发展的建议。人工智能是一把双刃剑,要用新的“游戏规则”让新技术与人类文明形成良性互动。

  Part.1

  应对智能机器的权利进行限制

  不可否认,AI极大地解放了社会生产力,从各个角度为生活带来更多的便利。但同时,也因为AI技术的不成熟和管理模式的不完善,人工智能安全事件频发,衍生出一系列伦理、法律和安全难题,这是人工智能发展过程中无法回避的问题。一方面,人类在不断设计出一代又一代更为先进的“智能”,另一方面,却又小心翼翼地警惕着人工智能的“背叛”。

  人类的规范、道德和AI是一对“矛盾体”,在众多专家看来,在人工智能研发全过程中,需要优先设计安全与伦理问题,将人类规范和道德价值嵌入人工智能系统,最大限度的消除人工智能不利影响,为人类创建一个安全可信的智能未来。

  爱因斯坦、达芬奇等都是高智商的代表,而有了智能的机器人,IQ值会远远超出人类,据预测,随着计算机智能程度的不断提高,20年后人工智能的IQ将达到10000,而且在数量上也将全面赶超人类。

  未来如果人工智能拥有和人类相似的感知,是否也应当和人类一样拥有一定的权利?百度CEO李彦宏在本届世界人工智能大会上表示,AI伦理必须坚持四个原则:AI的最高原则是安全可控;AI的创新愿景是促进人类更平等地获取技术和能力;AI的存在价值是教人学习,让人成长,而非超越、替代人;AI的终极理想是为人类带来更多自由与可能。

  人工智能也许不具有人类的价值观和情感,但AI仍需构建自己的伦理体系。峰桥集团总裁陈实告诉《IT时报》记者,各国都应重视对人工智能安全伦理规范的思考,将技术发展与社会伦理置于相同的环境下充分思考,减小人工智能带来的伦理冲击,保证人工智能在全世界共同的伦理规范内健康发展。“人类赋予智能机器某些权利是合理的,智能机器应该拥有得到尊重的道德权利。不过,在赋予智能机器某些权利的同时,我们更应该对智能机器的权利进行限制,以确保人工智能机器对人类是友好的。”

  Part.2

  AI造就“透明人”

  华东政法大学人工智能与大数据指数研究院院长高奇琦曾提出“透明人”的概念,他说未来的人都是透明人,这是无法阻挡的趋势。“如果有心人专门去搜集你在微信朋友圈、微博及其他社交工具上留下的信息和痕迹,很容易就得到个人隐私数据。”高奇琦告诉记者。

  近年来,关于数据泄露的报道时有发生,比如最近发生的华住酒店泄露用户隐私、脸书5000万用户的个人信息被英国剑桥分析公司窃取等,在大数据面前,人类几无隐私可言。但是,大数据的应用又和人工智能紧密关联,因此,谁拥有大数据的所有权、使用权、由谁来负责大数据的监管以保证其被合理合法使用、如何保护隐私和信息安全等就成为人工智能时代极其棘手的问题。

  碁震KEEN公司创始人王琦向《IT时报》记者表示,在人工智能时代,使用数据是不可避免的,而且信息泄露也并非是人工智能时代独有的问题。“但如果到了人工智能时代不加以约束的话,后果要严重得多。”王琦表示,他自己非常介意在使用各种智能设备时要开启摄像头等各种权限,但是不赋予权限就没法使用,物联网可能使个人随时处在智能设备的监控之下。

  如何解决这个问题?需要从法律层面和技术层面共同解决。“法律能让厂商在研发过程中更注重安全,也能提高违法成本。用法律的手段让人工智能行业的从业者加强自律,保持敬畏之心。”王琦说,上海优刻得信息科技公司CEO季昕华表示,需要技术手段对人工智能进行约束,“让AI可以分析数据,但是不获取数据,这应该是技术层面努力的方向”。

  对此,王琦认为,其公司在进行漏洞攻击时,经常需要采集各种数据,采集之后会对数据进行脱敏处理,“但是如果用人工智能的‘眼光’审视这些脱敏数据,就真的安全吗?人工智能就一定不会从脱敏数据中推测出关键性的结论吗?现在还很难判断。”

  Part.3

  用AI打击黑产

  人工智能时代,网络安全形势更加严峻和复杂,但人工智能技术也能在网络安全漏洞检测、恶意软件识别、不良信息智能审核、防范网络犯罪等方面发挥独特作用。可以说,人工智能也在赋能网络安全。

  当下的新型网络安全态势感知的基本原理是利用数据融合、数据挖掘、智能分析和可视化等技术,实时直观地显示网络安全状态,并对网络安全趋势做出预测,为网络安全威胁预警和防护提供参考。“人工智能在安全态势感知系统的运用主要分为五个步骤,第一步是提取网络中的安全设备(如防火墙)、网络设备(如路由器、交换机)、服务和应用(数据库、应用程序)的数据,对数据进行标准化和修订以及标注事件基本特征等;第二步是对在传感器采集环境中获取的数据做去噪、杂质过滤等预处理;第三步融合不同来源的数据;第四步选择人工智能算法进行态势识别、态势理解和态势预测;最后一步完成关联分析和态势分析,形成的态势评估结果以分析报告和综合网络态势图呈现,辅助决策。” 腾讯安全管理部高级总监毛晟斌说。

  以腾讯守护者计划为例,其基于AI人工智能和神经网络的分析能力,引入多维度的动态验证机制对抗相关黑产。去年,守护者计划安全团队利用上述技术协助警方打击“快啊答题”“光速打码”这两个国内最大的使用人工智能神经网络破解识别验证码的打码平台黑产团伙。

  Part.4

  “应给人工智能配刹车”

  正如中科院院士何积丰所说,技术是中性的,“人工智能能对恶意代码进行预测和破解,但是也能成为开发工具的漏洞,此外,人工智能算法具有不确定性,通常我们不知道人工智能怎么工作、怎么得出结果。”

  虽然人工智能在各个领域如同声传译、写新闻稿、协助医生看病、战胜围棋世界冠军等让人类刮目相看,但在何积丰看来,如果把人工智能分为弱人工智能、通用人工智能和强人工智能,当下勉强可以算得上是通用人工智能。

  中国信息通信研究院发布的《人工智能安全白皮书》显示,在人工智能相关的政策法规、标准规范上,目前各国大多处于建设初期或研究阶段。

  中国信息通信研究院安全研究所高级工程师牛金行介绍说,以无人驾驶为例,美国、德国都将安全作为自动驾驶第一准则,但均未形成统一的安全评测标准体系和方法。同时,各国政府目前多数靠约束企业自身开展测试验证工作,缺乏独立的第三方评测认证机构。除了要解决人工智能使用中基本的安全问题外,使用者与服务提供者的责任界定也应予以明确界定。

  去年7月,国务院在印发的《新一代人工智能发展规划》中提出,到2020年,我国人工智能核心产业规模超过1500亿元,带动相关产业规模超过1万亿元。此外,人工智能的“独角兽”不断涌现。

  人工智能能为保障国家网络安全等提供新手段和新途径,但在应用落地过程中,因为技术的不确定性,会产生诸多的挑战。在上海国际问题研究院全球治理研究所副研究员鲁传颖看来,应该给人工智能配刹车,让产业更快更稳。(完)

  中秋节到啦,附上“流心月球”一张

  编辑:挨踢妹

  图片:图虫创意、月球by risvan @荒野气象台

  来源:《IT时报》公众号vittimes


本文来源:《IT时报》

本文评论
军事体育NBA财经文化科技游戏数码美图健康时尚搞笑GIF图电台旅游房产家居金融 剁手指南 | 双十一值得买的数码产品都在这里了
又到了一年双十一,你的钱包准备好了吗?极客之选为大家准备了这份推荐购买清单。
日期:11-11
智能穿戴新技术  带来“心”健康!
你的心脏好还好吗?
  在高速运转的工作和生活中,心脏负荷越来越大,人们总在忙着满足外界的各种需求,却经常忘记停下脚步,关注自己那拳头大小的...
日期:10-31
2018世界VR产业大会:未来VR全景才是行业趋势
马云说:在你要创业之前,你必须要记住一点:你想成为什么样的人,你将会过着什么样的生活,决定权在于你自己,你没什么可抱怨的,也没什么值得赞颂的。...
日期:10-20
特斯拉AI芯片性能揭晓 最高提升20倍!
特斯拉CEO马斯克近日在推特上表示,六个月后,一种改进自动驾驶功能的新型AI芯片将用于特斯拉所有的电动汽车之中,该芯片能够大幅提升特斯拉汽车的自动驾...
日期:10-18
继机器人Atlas后机器狗Spot来袭:舞姿妖娆
(原标题:波士顿动力叒来秀:机器狗玩“抖音”,步伐风骚,姿态妖娆)
日期:10-17
机器人能统治世界吗?人工智能非万能的神
(原标题:机器人能统治世界吗?社会需有情感的人类,人工智能恐怕无法胜任)
日期:10-09
AI 画的画要上佳士得拍卖了,起拍价1万欧元!
7月,雾蒙蒙的伦敦,距泰晤士河不远处的一座近200年历史的古建筑里,人头攒动。
日期:09-30
AI翻译“很好很强大”  但替代人工远远不够
(原标题:AI翻译替代人工,难!同传译员:饭碗稳得很)
日期:09-30
在未来 高级机器人有可能涌现出自我意识吗?
(原标题:高智能机器人是否有思维?)
  网上有一个段子,说在苏联时期,曾经有机器人选手与人类进行博弈。但不知怎的,当时的机器人在下国际象棋...
日期:09-30
这个自动复原机器人毁了我玩魔方最后的乐趣
如果要找一个和极客气质最搭配的玩具,那最佳选择恐怕非魔方莫属。
日期:09-29
机器人皮:披上它,能让你身边随便什么东西秒变机器人
(原标题:玩偶秒变机器人:机器人皮了解一下?)
 还记得我们曾经介绍过的智能标签吗?在智能家居还未彻底颠覆人们生活的过渡阶段,如何既不置换既有...
日期:09-26
NTT将发售“阿童木”家用机器人:能陪聊、支持人脸识别
据NTT DoCoMo官网消息,以《铁臂阿童木》主角为原型的家用机器人“阿童木(ATOM)”,将于10月1日在日本全国的家电量贩店等发售。
日期:09-25
音乐家:谁能解我情衷?AI说我能
人的耳朵能够轻松分辨出歌曲的各种情绪,未来,机器也能如此。为了让机器人也能听懂人类创作的歌曲,法国在线音乐网站Deezer的研究人员开发了一种人工智...
日期:09-25
AI时代    我们会不会变成“透明人”?
(原标题:AI时代,人们还有隐私可以保护吗?)
  当AI越来越懂人类时,大家担心,自己会不会变成“透明人”?AI能为人类创建一个安全可信...
日期:09-25
传译员揭发科大讯飞AI同传翻译造假:官方回应
众所周知,在不同语言的翻译中,同声传译是最难的,机器很难做到。如今随着AI的兴起,人工智能真的能做到的同声传译了吗?
日期:09-21
AI未来将让飞机像鸟一样用气流飞行,节省能源
9月21日消息,来自国外媒体The Verge的报道称,科学家的新研究成果使用机器学习来教无人机利用热量在天空中飞行。
日期:09-21
阿里巴巴机器人亮相,自动经营无人水吧科技感十足!
相信有关注人工智能产品的用户一定对“天猫精灵”这四个字不陌生,天猫精灵是阿里巴巴人工智能实验室在2017年发布的AI智能产品,随后发布的天...
日期:09-21
机器人立功:考古学家发现3000年前地下隧道
根据外媒Archaeology News 的报道,在秘鲁的查文德万塔尔遗址,考古学家利用机器人深入狭长通道,发现了拥有 3000 年历史的地下隧道,考古学家表示这是近...
日期:09-20
云栖大会:阿里巴巴发布天猫精灵太空蛋/太空梭
9月20日消息 在2018杭州云栖大会上,阿里巴巴天猫精灵发布了太空蛋和太空梭两款产品,用于未来酒店和医院等设施。
日期:09-20
人工智能还能怎么玩?谷歌反手就是一个红狮子雕塑
这两天,伦敦设计展开始了,与往年不同,今年来了一个不速之客。
日期:09-19