财新传媒

怎样与人工智能共享未来

2018年01月08日 13:16 来源于 财新网
可以听文章啦!
既然不可抗拒,那么不如提前做好和它们共处共生的准备

  【财新网】(专栏作家 陈永伟)“这是一个最好的时代,这是一个最坏的时代; 这是一个智慧的年代,这是一个愚蠢的年代; 这是一个光明的季节,这是一个黑暗的季节; 这是希望之春,这是失望之冬; 人们面前应有尽有,人们面前一无所有; 人们正踏上天堂之路,人们正走向地狱之门。”

  在《双城记》的开篇,狄更斯曾用上面这段华丽的辞藻来形容故事发生的时代。现在,虽然距离《双城记》故事所处的时代已有200多年,但如果借用这段文字来形容眼下这场“人工智能革命”,恐怕也颇为合适。

  近年来,人工智能取得了突飞猛进的发展,迅速从“科幻”走进了现实,由此释放出的巨大生产力和给生活带来的巨大便利让人们对未来的生活充满了美好的憧憬和向往。但与此同时,人工智能的快速进步也引发了人们的焦虑。尤其是当AlphaGo以碾压性的姿态横扫了人类围棋顶尖高手,而其后继者AlphaGo Zero又以碾压性的姿态横扫了AlphaGo后,人们不禁惊呼:“‘奇点’可能就要来了!人类的荣光可能就要被人工智能取代了!”

  那么,“奇点”到底会不会来?人工智能会不会超越人类?如果会,会是什么时候,这会给人们带来什么?面对日益强大的人工智能,人类又该如何应对?关于这些问题,目前已经有了很多的著作加以探讨,而《生命3.0》(Life 3.0)就是这些著作中极为杰出的之一。

  《生命3.0》的作者是麻省理工学院的物理学教授马克斯·泰格马克(Max Tagmark)。作为一名学者,泰格马克的研究领域非常宽广,他既是平行宇宙研究的权威,也是人工智能领域的代表人物。广阔的研究视野和深厚的学术修养让泰格马克得以用更为宏大的视角来审视目前的这场“人工智能革命”,这就使得《生命3.0》一书中的结论要比同类作品更为深刻、更为令人震撼。与此同时,泰格马克在行文中又充分发挥了一名宇宙学家天马行空的形象力,从而让原本枯燥的内容得以用极为生动的文字表达出来。因此,与其说《生命3.0》是一本书,倒不如说它是三本书——一本人工智能科普书、一本应对人工智能相关问题的指南,以及一本科幻小说的合体。由于有了这些优点,《生命3.0》上线仅一天就登上了亚马逊人工智能和机器学习类图书排行榜的首位。包括斯蒂芬·霍金(Stephen Hawking)、埃隆·马斯克(Elon Musk)在内的众多名人都专门为该书写了评论、做了推荐。

生命的三种形式

  通常,一部关于人工智能的图书都会从这一技术的起源讲起,但泰格马克却选择了一种完全不同的开场方法。在《生命3.0》一书的开头,他就把读者引向了一个古老、深刻得多的问题——什么是生命?关于这个问题,已有很多智者哲人给出过答案。作为物理学家,泰格马克对此给出了一个颇为“物理”的定义:所谓生命,就是维持复杂性和复制性的过程。根据这一定义,如果一件事物具有一定的复杂性,或者说具有某种特定的、非随机的结构,并且可以进行复制,那么它就是具有生命的——无论这一事物碳基的,还是硅基的,甚至是以比特形式存在的。

  在泰格马克看来,生命的发展史可以分为三个阶段:生命1.0、生命2.0和生命3.0。

  生命1.0指的是既不能更新其“硬件”,也不能更新其“软件”的生命形式。生命1.0的代表是细菌,在一个细菌的生命周期内,它既不能主动对其身体的结构进行改变,也不能对其行为模式进行调整。它在“硬件”和“软件”上的变化都只能是种群意义上的、通过自然选择进行的,而不是个体意义上的、通过设计得到的。

  生命2.0指的是不能更新“硬件”,但可以更新“软件”的生命形式。人类就是典型的生命2.0物种——在一个人的一生中,它很难对自己的身体做出调整(除非通过外科手术),但是可以通过学习、习惯养成等来调节自己的行为模式。

  生命3.0指的是既可以更新“硬件”,也可以更新“软件”的生命形式。想象一下,如果在某一天,我们制造出了具有智能的机器人。那么,这个机器人既可以通过升级更新自己的软件,也可以通过替换零件来更新硬件。如果做到了这两点,这个机器人就是生命3.0。

  当然,在生命的各阶段之间,是存在着一定的连续性的。例如,老鼠可以一定的改变习惯的能力,因此就可以视为生命1.2,而人类在未来可以通过基因工程改造自身的身体结构,因此就有可能进化到生命2.1或者2.2。

  如果我们接受了泰格马克对于生命阶段的这种划分,那么怎么对待人工智能就变成了如何和一个新物种共存的问题——尽管这种物种至今还没出现,但我们必须先学会和它们打交道。

关于人工智能的四种观点

  人工智能可能是最有希望的生命3.0候选者。作为一个潜在的新物种,它可能会具有与人类相当,或者超过人类的智能,而这就是当前人们对其的一切希望和疑虑的源头。

  这里,我们需要对“智能”多作几句解释。什么是智能呢?简而言之,它就是达成复杂目标的能力。目前,人工智能已经可以在某些领域,如围棋、法律查询等方面达成相关的目标,但还不能像人那样在更为一般性的范围内达成目标。根据相关学科的定义,这种局限于某些特定范围的智能被成为“弱人工智能”。一旦人工智能拥有了和人一样的处理一般性问题的能力,它就成为了“强人工智能”。而一旦人工智能对问题的处理能力超过了人类,它就成为了“超人工智能”。

  一般来说,“弱人工智能”仍然只是帮助人们工作的工具,人们只需要用过去对待工具的观点来加以对待就行了。但一旦“强人工智能”甚至“超人工智能”出现了,情况就会有很大不同。那么,“强人工智能”和 “超人工智能”究竟会不会出现?作为生命2.0的物种,我们又应该如何面对这样的生命3.0物种呢?关于这些问题,社会各界展开了激烈的争论。

  根据观点的不同,争论的参与者大体可以被分为四类:

  第一类是卢德主义者(Luddites)。这类人认为,人工智能可能会在较短时期内超越人类,而这将会给人们造成巨大的灾难。为了防止这种灾难,人们应该禁止与人工智能相关的研究。

  第二类是数字乌托邦主义者(Digital Utopians)。这类人认为,人工智能将在较短时期内超越人类,而这将会给人们带来巨大的福祉,因此必须大力加强人工智能研究。“奇点”概念的提出者、未来学家雷·库茨韦尔(Ray Kurzweil)、谷歌的创始人拉里·佩奇(Larry Page)和谢尔盖·布林(Sergey Brin),都是数字乌托邦主义的代表人。

  第三类是技术怀疑论者(Techno-Skeptics)。在他们看来,人工智能根本不可能在短期内超越人类,因此去考虑如何应对由此产生的问题无异于杞人忧天。百度前首席科学家吴恩达(Andrew Ng)就是技术怀疑论的代表,他曾风趣地说“担心杀人机器人的崛起,就好像担心火星人口过剩一样!”

  第四类是“有益的人工智能运动”(Beneficial AI Movement)。 持这种观点的人既不像卢德主义者那样焦虑,也不像数字乌托邦主义者那样乐观,更不像技术怀疑论者那样认为“奇点”遥不可及。在他们看来,随着技术的进步,根据现有的技术趋势,“强人工智能”和“超人工智能”的出现已经在所难免,在较短的时间内,它们就可能出现在我们面前。对于人工智能的排斥和抗拒既无济于事,也毫无必要——这就好像原始人类对火进行抗拒一样。相比之下,在人工智能超越人类之前未雨绸缪,对可能发生的各种问题提前做好预案,让人工智能更好地为人们服务应该是更为可取的。包括比尔·盖茨(Bill Gates)、斯蒂芬·霍金、埃隆·马斯克在内的众多名人都倾向于“有益的人工智能运动”的观点。

  在以上四种观点中,泰格马克比较倾向于最后一种。作为一名研究宇宙科学出身的学者,他深信新生命形态的出现不可抗拒。既然不可抗拒,那么不如提前做好和它们共处共生的准备。事实上,正如副标题“在人工智能时代为人”所表露的一样,《生命3.0》反映的正是泰格马克思索人类与人工智能共处的方式的思考。

近忧与远虑

  人类要学会和人工智能共处,就必须首先考虑这种共处会出现怎样的情况、带来哪些问题。在《生命3.0》一书中,泰格马克花了很大的篇幅对此进行了想象,其时间跨度从最近几十年一直到了几十亿年之后。

  1、近忧

  在最近的一段时间内,人类依然可以在和人工智能的博弈中处于主导地位。因此,在这一阶段,人类需要面临的问题就是如何用好人工智能来为自己服务。作为工具,人工智能的力量固然强大,但力量本身也有其阴暗面,如不加防备,它完全可能对人造成巨大损害。

  一个例子是人工智能对就业的影响。目前,人工智能已经可以取代很多的人力劳动,这固然可以让人们从繁重的工作中解脱出来,有更多的时间享受生活,但它也意味着很多人会因此而丢掉饭碗。例如,经济学家弗雷和奥斯本就预测,人工智能会在未来替代美国47%的就业岗位,其影响将十分巨大。乐观的人或许会对这种预言不屑一顾,因为从历史的经验看,无论是蒸汽机的产生,还是电气化的普及,虽然都对就业产生了重大冲击,但很多新工作也随之产生,这让就业岗位在总体上并没有减少。对于这种乐观,泰格马克给予了警醒。他指出,这次的情况可能完全不同——事实上,从美国现在的就业结构看,只有很少一部分的就业岗位是最近才出现的,在就业中占据很大比例的都是传统职业。他很怀疑,当面临“人工智能革命”的冲击,新产生的就业岗位究竟是否能和过去那样足以弥补消失的岗位。

  另一个例子是自主武器。目前,战场上的武器都是需要人类操控的,因此在反应能力、效率等方面都会受到很大的局限。而操作武器的士兵的伤亡也在所难免。有人工智能控制的智能武器的出现在很大程度上可以解决以上问题。它不仅将大大提升武器的效率,还能够大幅减少士兵的伤亡,因此对于军队来讲将是一个巨大的福音。但与此同时,这种技术如果落入恐怖分子,或者独裁者的手中,那将是灾难性的。

  在书中,泰格马克还列举了很多类似的例子,提醒人们必须要在技术、伦理、法律等多个方面对人工智能的发展做好应对。只有如此,才能直面近期可能出现的很多问题。

  2、远虑

  一旦把视野投放到更为遥远的未来,那么人工智能能够带来的可能就更多、更难以预测了。在书中,泰格马克以一种科幻小说式的叙事推演了人工智能高度发达后给人类社会带来的种种可能结果。

  在最理想的情境中,人们对人工智能进行了严格的限制,将其牢牢控制在了一定的范围当中。在这种情况下,人工智能将会帮助人们达成很多梦寐以求的目标,例如消灭贫困,让所有人都实现富裕等。

  但是,理想的状况可能是十分脆弱的,稍有偏差,事情就可能朝着人们不想看到的方向发展。首先,如果人工智能的智能水平已经和人类齐平或者超越了人类,那么人类对其的控制可能十分困难。就像电影“机械姬”中描述的那样,机器人可能拥有人们的情感越狱,最终反制人类。其次,即使人工智能不能从人类的监控下成功越狱,但对于人工智能拥有控制权本身的人也会成为危险的源头。一旦控制人工智能的人萌发了野心,那么他就可以一步步成为一名独裁者,而人工智能则会成为他的帮凶。再次,即使人工智能没有被恶人控制,并且其本身也遵守“保护人类”等基本规则。但是一旦它的智能变得远远凌驾于人类,那么它和人类之间的彼此地位就会颠倒。人类将成为动物园中的动物,而人工智能将会成为动物园的看守。

  总而言之,在泰格马克看来,只要一招不慎,“强人工智能”和“超人工智能”就可能给人带来噩梦。那么,是否有可能防止这种噩梦呢?答案当然是肯定的——放弃现代技术,或者通过核战争进行自我毁灭都可以达到这个目的,但这些显然都不是人们愿意看到的。因此,更为科学、更为现实的态度,就是学会和人工智能共存,用最大的可能让它来为人们造福。

目标和意识

  在对人工智能可能带来的影响进行了一番长长的畅想和思考后,泰格马克将注意力集中到了两个技术性和哲学性颇强的问题上。

  1、目标

  第一个问题是,如何让人工智能保持和人类一致的目标(Goal)。从某种意义上讲,宇宙的万事万物都有其目标——根据“熵增定律”,从秩序变为混乱,让熵不断增加就是万物的基本目标。在生命产生后,不断复制就是它的目标。而在人类等高级生命产生后,其追求的目标就由单一转化为了多元。受可调动资源和计算能力的限制,人们并不能对所有目标都进行彻底的优化,因此人们就发展出了一系列的“拇指法则”来帮助目标的达成,例如饥饿的时候会进食、累了会休息等。

  对于人类而言,选择和达成复杂的目标并不是问题,但如果想让人工智能也拥有同样的目标达成能力,就是十分困难的。首先,对人工智能植入相关的目标就很困难。当人工智能的水平较低时,它可能难以理解人的目标,而当人工智能的水平很高时,它对于目标会有自己的评判,人也很难让它根据自己的目标行事。其次,人可以通过直觉和拇指法则来学习、达成目标,但人工智能很可能会误解这种目标。例如,如果是人类,看到消防员冒险进入火场去抢救孩子,都马上会知道这是为了抢救孩子的安全。但人工智能则可能误解这只是消防员为了取暖。再次,从长期看,人工智能的目标可能并不会和人类一致。就像当孩子长大后,他们会对家长过去对自己的教诲产生怀疑,当“超人工智能”出现后,他们很可能认为人类曾经给自己输入的目标过于幼稚,进而发展出属于自己的新目标。

  总而言之,要让人工智能保持和人类一致的目标是困难的。在书中,泰格马克并没有给出破解这一问题的答案,但其提出的问题确实值得人们深思。

  2、意识

  第二个问题是,人们应该如何面对人工智能可能发展出的意识(Consciousness)。从古至今,关于什么是“意识”就存在着很大的争论。在书中,泰格马克将意识定义为自我体验(Self Experience)。值得注意的是,这种自我体验无需要和行动联系在一起。例如,一个瘫痪的人不能动,但他可以有感觉,所以他依然是有意识的。

  那么,从科学的意义上,意识的本质又是什么呢?在书中,泰格马克借用了神经学家朱利奥·托诺尼(Guilio Tononi)提出的“整合信息理论”(Integrated Information Theory)。根据这一理论,一个物理系统如果要具有意识,需要达到两个条件:一是这个系统必须具有丰富的信息;二是这个系统必须有高度的整合特征。举例来说,虽然人的大脑和电脑的硬盘都可以占有十分丰富的信息,但是在大脑每次接收信息的时候,都会生成数十亿的交叉连接,因此具有很高的整合性。当人们接受到大量的信息,例如一段动画后,很难将其重新分解为一幅幅画面、一个个像素。而硬盘则不具有这个特点。从这个意义上讲,人脑是有意识的,而硬盘则没有。

  如果我们接受了“整合信息理论”,那么我们就至少应该在理论上确知意识未必只能是人类所特有的,人工智能也可以发展出自己的意识——当然,这种意识的形式可能与我们理解的大不相同。并且根据相关的物理特性,一旦人工智能发展出了意识,它的范围可能比人类的更为宽广。

  或许在很多人看来,这个结论是十分令人沮丧的,因为它否定了人类的独特性。但泰格马克则认为,认识到人类的意识并非唯一,事实上是给了人们一个很好的反思机会。人类正好运用这个机会学会谦卑,学会去理解世界、理解生命的意义。

平行宇宙,多种可能

  从总体来说,《生命3.0》是一部十分烧脑的书。书中充斥着来自各个学科的大量术语,要彻底读懂它并不容易。但是,其精彩的内容和优美的文笔又着实让人难以释卷。在跟随泰格马克的思路读完这部书后,我们就对人工智能的前世今生和未来完成了一次巡礼,我们对其的认识将会大为加深。

  从学科背景上讲,泰格马克是一位平行宇宙的专家,事实上,他在书中讲述的人工智能可能带来的种种后果也以被看作是各种不同的平行宇宙。按照相关理论,不同的选择会诞生不同的平行宇宙,因此我们最终将踏上天堂之路,还是将走向地狱之门,都取决于我们现在做了些什么。显然,在泰格马克看来,尽管我们不能确知未来会如何,但如果我们提前加强相关研究,对一些问题做好预案,那么让作为生命2.0的人类和作为生命3.0的人工智能和谐共处的概率就增加了几分。

  至于剩下的……或许我们只能等待与希望!

  作者为北京大学市场与网络经济研究中心研究员,本文系作者为《生命3.0:在人工智能的时代为人》所写的介评,发表于《互联网前沿》2017年12月号

责任编辑:张帆 | 版面编辑:许金玲
财新传媒版权所有。如需刊登转载请点击右侧按钮,提交相关信息。经确认即可刊登转载。
全选

新闻订阅:订阅后,一旦财新网更新相关内容,我们会第一时间通过发邮件通知您。

  • 收藏
  • 打印
  • 放大
  • 缩小
  • 苹果客户端
  • 安卓客户端
财新微信