前面的话
世界两个顶级学术期刊《科学》《自然》上每周都会推荐几本新出的科学主题的科普书，而一本书若是能同时被这两家杂志推荐，则更是难得。去年8月25号出版的《life 3.0》正是这样一本书，这本书一经出版，便让霍金重磅推荐、埃隆·马斯克、尤瓦尔·赫拉利等疯狂点赞。
今年6月这本书的中文版已由湛庐文化策划出版，又引起了一阵热潮，得到傅盛、王小川、余晨、罗振宇、段永朝、杨静等社会各界专家学者的力荐，在豆瓣上的评分更是达到了9.4。
今天这篇文章就是《生命3.0》作者迈克斯·泰格马克的学术合作者——迄今在世最著名的人工智能研究者斯图尔特·罗素对这本书的评价，同时他也对人类在人工智能时代的未来进行了自己的思考。本文首发于自然杂志，由机器之心编译，标题为湛庐君改写。其实，对于大多数人来说，AI是近在咫尺又遥不可及的新型产物，它仿佛无时无刻影响着我们的生活，我们却又一无所知。希望通过这篇文章，我们能以冷静客观的态度看待AI。
来源：Nature
作者：斯图尔特·罗素
编译：机器之心
参与：路雪、李泽南、黄小天
迈克斯·泰格马克是一位著名物理学家。他也是未来生命研究所的联合创始人，他的座右铭是：科技正在让生活前所未有地快速前进……或是毁灭，我们应该将未来把握在自己手中！最近，《生命3.0》这本新书传达了他对于未来发展——特别是人工智能发展的思考。泰格马克认为，如果我们作为人类的「宇宙天赋」正被抛弃，那么是时候展开认真思考了。
三分钟读懂生命3.0
该书作者泰格马克经常与我分享研究和文学心得。在 2014 年，我们与史蒂芬·霍金、弗朗克·韦尔切克（2004 年诺贝尔物理学奖获得者）共同在《霍芬顿邮报》上发表了文章《论超级智能机器的超越自满》。它表面上是对沃利·菲斯特的反乌托邦 AI 科幻电影《超验骇客》的一篇影评，实际上则是一次呼吁，提醒人工智能社区对于智能系统的风险进行认真思考。我不大可能强烈反对《生命3.0》的观点，泰格马克认为，生命不一定会在宇宙尺度下传播开来，同时「繁荣十亿甚至万亿年」，因为我们现在正被具有诱惑力和势不可挡的可能性吸引。
这本书的书名指进化史上的第三阶段。大约 40 亿年来，硬件（身体）和软件（生成行为的能力）都由生物学决定。而接下来的 10 万年，学习和文化使人类可以适应和控制自己的软件。在即将到来的第三阶段，软硬件都可以重新设计。重新构造身体和大脑听起来似乎有些超人类主义，但是泰格马克的关注点是可以在设备内部补充大脑机能的 AI。
「机器蜜蜂」可以在蜜蜂种群数量衰退的现在用于人工授粉，但也可能产生不可预见的影响（想想《黑镜》第三季第 6 集）
泰格马克考虑到其优势和风险。短期风险包括自主武器军备竞赛和就业人数大幅下降。AI 社区几乎一致谴责能够杀死人类的机器的创造，但是该研究引发了争论。很多人预测会有经济复苏——AI 促使新工作代替旧工作，和以往的工业革命一样。泰格马克不无讽刺地设想 1900 年两匹马讨论内燃机的崛起……有人预测「马的新工作……这种情况以前经常发生，就像车轮和犁的发明一样。」对大部分马来说，「新工作」是成为宠物食品……泰格马克的分析令人信服，经济学家如保罗·克鲁格曼也分享了他的分析。但是问题是：当我们现在的大部分工作都被机器取代时，我们想要追求什么样的经济呢？
长期的风险关系到人类的存在。本书的科幻开头描述了一种合理的场景，超智能 AI 可能出现。之后，泰格马克讨论了从乌托邦到人类被奴役甚至灭绝的全局结果。我们不知道如何前往更好的未来，这指向我们缺乏对「为什么 AI 变得更好可能是件坏事」的严肃思考。
计算机先驱阿兰·图灵在 1951 年提出了人类最好的结局不过是被 AI 打压，表达了对制造出比自己更聪明的事物的普遍忧虑。通过拖慢 AI 的发展进程来缓解这种忧虑可能既不合理也不可取。《生命3.0》最有趣的部分认为真正的问题是可能出现目标偏离。控制论创始人诺伯特·维纳在 1960 年写道：「我们最好确定制造机器的目的是我们真正想要的。」或者，像泰格马克所说的：「如何使超智能 AI 的最终目标既不是未定义的，也不会导致人类灭绝，目前并不清楚。」我的看法是，这一技术和哲学问题需要我们集合所有智力资源。
只有我们解决了它才能获得收益。其中包括宇宙的扩张，其动力来自奇异的技术比如戴森球（Dysonspheres，它可以捕捉星球能量），在黑洞周边建造的加速器，或者泰格马克的理论喷发器（比如夸克驱动的柴油机，效率可提升十亿倍）。出于纯粹的科学兴趣，很难超越有关宇宙与物理学定律允许的上升空间的解释。比如，也许有一天我们把生物圈扩展到「32 个数量级」。接着了解到宇宙扩展将限制我们只能定居 100 亿个星系，这会让人很失望。「当暗能量摧毁宇宙文明的威胁催生出大量的宇宙工程项目之时」，我们似乎感受到了我们后代的焦虑。
这本书的结论是未来生命研究所的角色正从这些话题向主流人工智能思考转移——凭这点泰格马克绝对值得信赖。当然，在提高警惕方面，他并不是独自一人。在视野广阔度方面，《生命3.0》与尼克·波斯特洛姆 2014 年发行的《超级智能》（牛津大学出版社）非常相似。但是，与波斯特洛姆不同，泰格马克并不打算证明风险是不可避免的，他避开了深奥的哲学，并询问读者哪种情景他们认为更有可能或可取。
京东图书 《生命3.0》 小程序 
点击上方小程序，即可购买《生命3.0》
尽管我强烈推荐这两本书，但我怀疑泰格马克不太可能在人工智能研究者中激起一种惯常的过敏反应——撤回到无需注意的防御性论据。下面是一个典型论据：我们并不担心遥远但具毁灭性的可能性，比如黑洞吞噬地球，那么我们为什么要担忧超级人工智能呢？答案是：如果物理学家正在制造这样的黑洞，我们会问他们黑洞是否安全吗？
《经济学人》对这一首要问题如此评价道：在地球上引入第二智族的意味非常深远，足以值得深思熟虑。生命3.0 远不是人工智能的最终状态或未来，但它提供了对所需的深思熟虑的迷人一瞥。
原文地址：
http://www.nature.com/nature/journal/v548/n7669/full/548520a.html
斯图尔特·罗素：迄今在世的最著名的人工智能研究者之一，也是人工智能领域的标准教科书的作者之一。
—— END ——
新媒体编辑 | Lily
—转载授权、商务合作—
联系客服
