人工智能会让我们更好?别天真了

来源:译言网 | 发布: | 发布时间:2016-07-30,星期六 | 阅读:1,432

这是一个悲观主义者的未来预测。

“我们走上了毁灭之路——我并不是第一个这么说的人。我们人类有可能会跟这个问题缠斗到死。这本书探讨了未来失控的可能性:机器并不憎恨我们,但随着它们获得宇宙间最不可预测、我们自己都无法达到的高级力量,它们会做出意想不到的行为,而且这些行为很可能无法与我们的生存兼容。这股力量是这么不稳定而又神秘莫测,连大自然也只完全做到过一次。

智能。”

——詹姆斯·巴拉特(James Barrat)著《我们最后的发明》

詹姆斯·巴拉特(James Barrat)

人工智能帮你选择买什么书、看什么电影,甚至和谁约会!它把「智慧」放进你的智能手机里,很快它就将驾驶你的汽车了。它掌控着华尔街大部分的交易的命脉,控制着重要的资源的分配,比如水资源和交通基础设施等。但是,人工智能也可能威胁我们的生存。

企业和政府斥巨资追求人工智能的光环,在短短十年内,人工智就可能超越人类智慧。科学家认为,一旦人工智能达到一定水平,它将驱动一种很像人类的机体。我们可能会被迫与一种更狡猾、更强大,甚至完全超出我们想象的对手竞争。

20年来,詹姆斯·巴拉特都在撰写和制作纪录片。进入不同的地理、文化背景,寻找人类共同的叙事基因,并用优美的镜头语言传递给观众。合作机构包括国家地理、探索频道、PBS等,作品在美国和欧洲播放。

詹姆斯·巴拉特的部分纪录片作品

对人工智能的深度着迷起始于2000年,契机是对这些人的采访:科幻大师阿瑟·克拉克(Arthur C. Clarke)、发明家和未来学家雷·库兹韦尔(Ray Kurzweil)、机器人制造专家罗德尼·布鲁克斯(Rodney Brooks)等人。库兹韦尔和布鲁克斯对未来都显得颇为乐观,认为到那时我们都需要跟智能机器一起分享地球的一切。库兹韦尔解释道:“这不是异族入侵,它们是我们制造出来的。”对于这一点,阿瑟·克拉克持有相反意见:“智能机器控制人类只是时间问题,人工智能将会获胜。”

智慧,不是魅力或者外表,是人类能够发展至今的核心推动力。而今天在经济发展的驱动下,人类正在人工智能的研究上大步迈进。每一年,我们都会看到关于人工智能机器的新闻,它们越来越完善。在变得无法控制之前,可能人类需要学习怎么与更加聪明的机器共处。

这会不会事关人类的生存?

《我们最后的发明》就试图探讨这个问题。全书回顾了2012年之前的15年,学术界对于人工智能带来的可能危机的研究,但是读起来却像一部恐怖侦探小说。

作者先引用了牛津大学论理学家尼克·博斯特罗姆(Nick Bostrom)的一段话,来厘清读者普遍的误解:

对超级智能展开有意义讨论的先决条件是要意识到,超级智能不是随随便便一种渐进式提供人类能力的技术的工具。超级智能完全不同。之所以强调这一点,是因为将超级职能拟人化,是造成误解最大的源头。

而接下来,有这么一个业界传说:

一个孤胆天才,在名为“AI试验箱”的场景里,下了一连串高风险赌注。实验中,天才扮演AI的一部分。一大群网络起家的百万富翁,每个人都以“守门人”身份赌上一轮:AI制造者面临困局——守卫人更聪明的AI。AI和守门人能通过在线聊天室沟通,据说,假装ASI的天才只使用键盘,每一轮都成功逃脱,赢下了赌注。更重要的是,他证明了自己的观点。如果他,区区一个渺小凡人,都能靠着嘴巴逃出试验箱,那么比人类十倍甚至百倍聪明的ASI一定能做到,而且还更快。这就带来了人类灭绝的可能性。

传言书,这位天才转入了地下。他在AI试验箱活动里收获了如此多的名声,又写了大量相关的论文,有了粉丝群体。但是他藏了起来。

作者想跟他聊一聊。

詹姆斯·巴拉特于是开始访谈这些领域的前沿者,包括奇点研究所里这个实验的创建人:埃利泽·尤德考斯基 (Eliezer Yudkowsky)。

16个章节里,作者讨论的问题包括:本世纪的智能大爆炸、超级智能的力量、超级智能与善行关系、趋于一致的目标、人类价值变得复杂和脆弱等。对于每个问题,都进行了适当的展开。

对于人类面对的这种情况,有没有解决办法呢?詹姆斯·巴拉特好像显得特别悲观。超级智能机器将会使用我们的资源来达到目标,而我们并不清楚人工智能在自行发展中是否可以听从我们的指挥。

就像科技历史学家乔治·戴森(George Dyson)写的:

“在生命进化的游戏中有三种选手:人类、自然和机器。我非常坚定认为自然会胜出。但是,我怀疑自然是站在机器那一边的。”

好像最佳的结果就是人类制造的机器是友好的,研究人员可以在这方面多下功夫。对于哲学家、数学家、电脑专家、经济学家来说,当然必须开始展开更为丰富的讨论,而对于普通大众来说,也许我们能做的,就是需要开始了解、思考这个问题了。

译言·东西文库即将推出这本探讨高级人工智能是福祉还是危机的《我们最后的发明》,敬请广大科技迷、人文迷们关注。



 

版权声明

文章编辑: ( 点击名字查看他发布的更多文章 )
文章标题:人工智能会让我们更好?别天真了
文章链接:http://ccdigs.com/83368.html

分类: IT观察, 国际观察, 新闻视线, 科技新闻.
标签: , ,

发表评论