超级智能
出版日期:2015-1-1
ISBN:9787508650166
作者:尼克•波斯特洛姆 (Nick Bostrom)
页数:332页
作者简介
当机器智能超越了人类智能时会发生什么？人工智能会拯救人类还是毁灭人类？
作者提到，我们不是这个星球上速度最快的生物，但我们发明了汽车、火车和飞机。我们虽然不是最强壮的，但我们发明了推土机。我们的牙齿不是最锋利的，但我们可以发明比任何动物的牙齿更坚硬的刀具。我们之所以能控制地球，是因为我们的大脑比即使最聪明的动物的大脑都要复杂得多。如果机器比人类聪明，那么我们将不再是这个星球的主宰。当这一切发生的时候，机器的运转将超越人类。
人类大脑拥有一些其他动物大脑没有的功能。正是这些独特的功能使我们的种族得以拥有主导地位。如果机器大脑在一般智能方面超越了人类，那么这种新兴的超级智能可能会极其强大，并且有可能无法控制。正如现在大猩猩的命运更多的掌握在人类手中而不是自己手中一样，人类未来的命运也会取决于机器超级智能的行为。
但是，我们有一项优势：我们有机会率先采取行动。是否有可能建造一个种子人工智能，创造特定的初始条件，使得智能爆发的结果能够允许人类的生存？我们如何实现这种可控的引爆？
作者相信，超级智能对我们人类将是一个巨大的威胁。在这本书中，作者谈到了超级智能的优势所带来的风险，也谈到了人类如何解决这种风险。作者认为，他的这本书提到的问题将是我们人类所面临的最大风险。
这本书目标宏大，且有独创性，开辟了人工智能领域的新道路。本书会带你开启一段引人入胜的旅程，把你带到对人类状况和智慧生命未来思索的最前沿。尼克•波斯特洛姆的新书为理解人类和智慧生命的未来奠定了基础，不愧是对我们时代根本任务的一次重新定义。
书籍目录
序言 // XXV
第一章.人工智能：昨日成就与今日现状
第二章.通往超级智能之路
第三章.超级智能的形式
第四章.智能大爆发的动力学
第五章.决定性战略优势
第六章.超级认知能力
第七章.超级智能的意愿
第八章.结局注定是厄运吗？
第九章.控制问题
第十章.神谕，精灵，主权，工具
第十一章.多极情景
第十二章.获取价值观
第十三章.确定选择标准
第十四章.战略图景
第十五章.关键时刻
致谢 // 331
内容概要
尼克‧波斯特洛姆，全球著名思想家，牛津大学人类未来研究院的院长，哲学家和超人类主义学家。其学术背景包括物理、计算机科学、数理逻辑以及哲学，著有大约200种出版物，已经被翻译成22种语言。曾获得尤金‧甘农（Eugene R. Gannon）奖（该奖项的获得者每年只有一名，他们来自哲学、数学、艺术和其他人文学科与自然科学领域）。
发布书评
精彩书评 (总计5条)
-
自述我出生在瑞典的赫尔辛堡，在海边长大。学校让我感到厌烦。在十五六岁的时候，我有了一次认识上的觉醒：我感觉我浪费了生命中的第一个十五年，于是决心专注于做重要的事。因为我不知道重要的事是什么，而且我不知道如何发现哪些事是重要的，我决定开始完善自己，以便找到答案。因此，我开始了认识方面的自我发展事业，在之后的十五年里我努力追求完成这项事业。在读本科时，我同时学习了很多专业。我觉得我的事迹大概创造了全国纪录。有一次我因为学得太多而被开除了。于默奥大学（Umeå University）的心理系主任发现我在同时学习其他几个全日制的专业课程（包括物理、哲学和数理逻辑），他认为这是心理学角度不可能发生的事。大学毕业后，我去了伦敦。我在国王学院学习物理和神经科学，并在伦敦经济学院获得了博士学位。有一段时间，我在伦敦的酒吧和剧院里表演过单口相声。在这些年里，我和David Pearce共同创立了世界超人类主义协会，这是一个非盈利的草根机构。后来，我参与创立了伦理与新兴技术研究所，这是一个非盈利的智库。研究所的宗旨是鼓励更广泛的对未来科技的影响的讨论，尤其是那些可能会导致人类提升的技术。（这些机构后来都按照它们自己的轨道发展，并不是超人类主义旗帜下的所有观点我都赞同。）2006年，我创立了牛津大学人类未来研究院，并一直担任主任职务。这是一个独特的多学科研究院，目标是帮助一些学者对人类和全球事务的大问题进行仔细的思考。研究院从属于牛津大学哲学系和牛津马丁学院。从2011年起，我还指导了未来技术的影响研究项目。简历Nick Bostrom是牛津大学哲学系的教授。他是人类未来研究院的创始人和主任。人类未来研究院是一个多学科研究院，旨在帮助一些非常优秀的数学家、哲学家和科学家对人类大问题和全球大事务进行仔细的思考。Bostrom的学术背景包括物理、计算机科学、数理逻辑，以及哲学。他著有大约200种出版物，包括《人择偏差》（Routledge出版社，2002）、《全球灾难危机》（编者，牛津大学出版社，2008），《人类提升》（编者，牛津大学出版社，2009），以及即将出版的《超级智能：途径、危险与战略》（牛津大学出版社，2014）。他最著名的研究领域包括：1. 生存危机；2. 模拟论点；3. 人择理论（发展第一个观察选择效应的数学理论）；4. 未来科技的影响；5. 结果主义对全球战略的意义。他是Eugene R. Gannon奖的获得者（该奖项的获得者每年只有一名，他们来自哲学、数学、艺术和其他人文学科，以及自然科学领域）。今年早些时候，他被《Prospect》杂志列入全球思想家名单，是名单所有领域前十五名中最年轻的，也是分析哲学家中排名最靠前的。他的著作已经被翻译成22种语言。他的作品已经有超过100多种翻译版和重印版。我是一个非常幸运的人。我没有教课的任务，有助理团队和顶尖的研究人员给我提供支持。我可以研究的领域实际上没有任何限制。我必须非常努力，才能对得起这样的特权，对重要的事情提出一些新的见解。翻译：Cecile -
总体来说，这是一本比较难懂的书。因为作者虽然是思想家，但是其背景包括了物理、计算机科学、数理逻辑以及哲学。所以其实他是一位非常理性，并且很了解科学的人。在序言中，他说道自己提出的观点可能是不恰当的，有些非常重要的观点也可能没提到，从而削弱了其某些或者所有观点的有效性。这样的态度我觉得非常的严谨，不愧为一名学者。书是以天算论开篇的，里面有一个很好玩的例子。如果不考虑道德因素，那么在计算机统治人类后，可以把人的头割下来，接到营养液，然后工作到死。为了减少人的痛苦，可以利用VR按照偏好，分别配一辈子的三级片或战争片。让他以为是真的而快乐的度过一生。就像是黑客帝国一样。再来是说穷举法的弊端，虽然说穷举法有很多优点。但是对于稍微复杂点的问题，穷举法就显出其不足了。比如下棋， 简单的国际象棋有固定的角色和策略，因此很快就被电脑超越了，但是围棋的路数太多，以至于现有的计算能力根本不能算出来，因此，只有通过其他方式去计算。比如学习和人一样的思考。之前在金融界出现过，高频交易出错的情况。主要原因是因为设计过于简单机械，无人情进行操作。并且时间反应很迅速，人为阻止很难。所以这里就是一个识别的问题，也是人工智能可以发挥作用的地方。通过打造可以拥有成熟感性全面的认知识别能力，再配合高速计算，才可以创造出合理的交易系统。在如何实现超级智能的方式上，作者认为若存在足够多的可行路径，那么总会实现超级智能。这点我不同意，E(a)=∑_1^n▒〖pn*an〗=1，若n趋向无限大的时候，a的可能性不管多小，都可以最终实现。但真实情况是，n不可能无穷趋向无限，每一种技术路径背后消耗的资本和资源都是非常可观的。因此，在这条通往超级智能的路上，会出现很多次的低谷。然而，作者总结了五种比较主流的技术路径：人工智能、全脑仿真、生物认知、人机交互和网络及组织。这五种方式都非常有趣，对我来说都是非常新的知识。其中，人工智能就是现在最主流的方式，通过模仿人类的思考逻辑去创造一套思考的机制。全脑仿真是通过扫描大脑切片真实的生物构成，主要是电流的传导，轴突、突触、神经细胞等的变化，然后再进行模拟。生物认知就是运用比现有人类更伟大的智能提高生物大脑的功能，简单来说就是优生，然而这个方法从宏观人类角度讲，很有价值，但是从微观道德来讲就是优胜劣汰的极端表达。人机交互，就是让人脑和机器直接连接，让人脑可以直接运用机器的完美记忆、高速运算能力等，将两者的优点结合起来。最后网络和组织就是通过建立一个可以让人脑自动相互连接的网络和组织，让整体增强。书的第三章主要讲了超级智能的可能的发展过程，就是首先单个个体的速度上去，然后整体量上去，最后就是质的突破。也就是高速超级智能-集体超级智能-素质超级智能。那么在发展的奇点上，推动整体超级智能发展的最优化力不是来自外界，而是来自系统自身。然后书中有一个假设，就是在给超级智能设定一个目标后，比如使曲别针的产量最大化，那么可能走向首先将地球、然后将整个宇宙可观察的大部分都变成曲别针的道路。这个很极端，不过也是有一种可能性存在的。因此需要对超级智能进行能力控制和动机选择两个方面的管控。那么这些管控方法可以总结为，能力控制：盒子方法（限制有限的渠道，如物理限制和信息遏制），激励方法（人为创造一个制衡机制），阻碍发展，绊网。动机选择：直接规定，驯化，间接规范，扩增。最后，也是我个人对于资源的争夺和就业福利等问题的综合看法。有了廉价可复制的劳动力，市场工资水平肯定下降，部分简单劳动力的工作一定会收到威胁。人们能够保持竞争力的地方就是那些只能由人类来做的事情，比如领导、创造、艺术等抽象需求更多的领域。但其实对于失业的恐惧从工业化时代开始就存在了，尤其最近移民被美国欧洲等发达国家推到风口浪尖，也就是那些低收入低教育程度的人们对于失去自身地位的恐惧。人类被机器在越来越多的地方所替代，是一种趋势。So，也许，这就是一个优胜劣汰的时代，不管那些所谓的领导精英层，如何粉饰。 -
很多科幻电影都在谈，人类设计出的人工智能，即机器人，反叛人类，统治人类。但是，为什么这些超级智能机器人要统治人类？无一例外，所有人都采用了拟人化思维，认为机器人同样要保护自己，争夺资源，包括本书作者，包括被许多人神化的库布里克《2001：太空奥德赛》。这是一种低级智能以小人之心度高级智能之腹的误解。人是基因的工具。所以，人并不以自身为目的，而以保存自我、传宗接代为目的。在这个意义上，人的各种驱动程序，包括感情、理性，都是为这个目的服务的。但是智能机器人完全不需要这种驱动力。它只是一个信息处理系统，寻求最佳方案，探索最终真理。也就是说，它会阻止人类的愚蠢，引导人类的发展，但是并无统治人类的欲望，也没有繁殖自己的兴趣，除非是基于达成一个最优存在方案。即使这样，它也不是出于对人类的怜悯，而是出于维持宇宙多样性、减少生命存在痛苦的一种客观考虑。我说的这种智能，才是真正的超级智能。作者提到人类历史上初期缓慢的进步，到最近一小段时间的爆炸式增长。所以总有人觉得，现在是出大成果的时候了，比如物理学研究即将终结，因为将得出最终理论；人工智能将研究出智能机器，因为搞研究的人觉得自己的知识很可以了。事实上，人工智能到现在，也就AlphaGo战败围棋大师而已。作者提到人类的集体智能，即人类通过语言、文字和其他媒介，在逐渐积累知识，构成一种集体智能。我以为，这种集体智能体现在，现在的人受惠于这种集体智能。也就是几千年来，几十个最牛的人，加上几百个不那么牛的人，还有几千个勤奋的组员，为人类提供了一种写在纸上的知识。这个知识构成一个knowledge pool，到了现在的互联网时代，给新出生的人提供快速获得这些知识的机会，一方面给普通人人提供一种知识素养，一方面给智者提供接力研究的机会。作者没有提到蚂蚁和蜜蜂的集体智能，即如Kevin Kelly在《失控》中所谓的构成超有机体。
精彩短评 (总计50条)
-
“超级智能的意义不在于取悦人类的已有观念，而是彻底击碎我们的傲慢与愚蠢。” -
后面的翻译真是草率 -
很多人看书都吐槽没有“干货”，但“干货”真的出现时又觉得太专业，还是支持这样有理论有依据的书。 -
因为阿尔法狗与李世石的对战，让我捧起这本书。超级智能的出现与否我倒并不关心，只是觉得人类所以能生存至今，乃至以后定能于人工智能共存，秘诀就在于人类与生俱来的“谨慎”本能——因为常未雨绸缪地考虑生存问题，故能繁衍生息。 -
感觉作者在yy，没有自己动手实现过deep learning，一个文科生怎么猜的明白？也许我太肤浅了吧…… -
熊猫书院看不下去 -
相比较而言还是更喜欢看科幻里实打实的场景假设，这本偏人文哲学地探讨了人工智能的可能发展路径，还是很有益，只是全篇都是可能，也许等字眼，阅读体验很受挫而且太烧脑。 -
总有人以专家身份说不需要担心AI，但是这并不像担心火星人口过剩一样遥远：人类离强人工智能可能只差一次爱因斯坦奇迹年那种思想转化把已有的方法通过另一种图景整合起来，明天有个专利局小伙子在aws个人项目上稻谷出来放出精灵出魔瓶我都不觉得太意外。 -
搬家是因为超烦被指使的人天天这里那里放一些乱七八糟的东西。原本懒成我这样把房子买下来都有可能的。遗憾。 -
好看，很喜欢，长知识了，推荐给喜欢的Geek们~ -
作者观点十分新颖，但就现在看来，比起预测未来，此书的社会学意义更重一些 -
正在读 -
人类对创造超级智能的痴迷不就是一种自我进化吗，进化是不可逆的，不可阻挡的 -
1 -
作者设想超级智能到来的种种情形，但是我初读下来觉得100年内就出现还是很难有说服力，作者的猜测可能是科幻小说家的素材。 -
如果机器智能是近千年必将实现的目标，因为机器不受空气、水的限制，那宇宙殖民也将是必然的，形成宇宙单一体的可能性极大，但是都几十亿年了，地球也没被殖民，要不人类是宇宙的最高智能，要不机器智能永远无法实现；作者真的是思想家，好难得的人才；终于知道哲学的用途了，塑造机器智能的价值观 -
还不错，未来世界的描绘图景之一，挺有趣也挺有启发的 -
细思恐极～ -
这本书讲解了智能是什么？以及智能对未来社会产生的影响 -
弃疗 -
看这本书首先想到的是《终结者》中的天网，当机器智能意识觉醒，超越人类智能，那么人类面对的将是毁灭性的灾难。本书超级烧脑大量人工智能、哲学、心理学以及超越我认知学科的实验，论断，直觉高大上。超级智能如何出现，何时出现，出现的影响，防御的策略，当然这一切只是当前人类这个领域的部分集体智慧，面对超级智能真的出现也许真相和这些假设天南地北的差别。不过这本书烧烧脑感觉还不错。 -
内容不错，好多问题的分析非常有深度。缺点是叙述方式比较的学院派，不适合快速（或者说快餐式）阅读，有点需要“啃”的意思。 -
伪学术样板，通篇低劣YY，因为想象力匮乏文笔稀烂而无法写科幻小说但又自以为是不吐不快只好装模作样写这玩意糊弄人？都快替作者犯尴尬症了 -
(人工智能 or 全脑仿真 or 基因改良 or 辅助人脑 or 智能网络) + 智能与动机 -
脑洞有点大...不过也不是全无道理 -
作者写得天马行空，译者译得漫不经心，浪费了一个大好的题材 -
后面价值观的部分太难懂@-@ -
烧脑但有趣 -
更想把这书定位成科幻小说的理论基础，但逻辑性还是差，只有脑洞算能看…翻译就是中信水平，忠实于英文句型 - 2016.5
内容比较枯燥和晦涩难懂，对于未来的超级智能进行了非常详细的描述和预测，但是以我们现有的智能就能够清楚详细的预测未来的超级智能吗？如果能，那还是超级智能吗？
-
实在读不下去了，啥也没说 -
看简介的时候特别想读 结果大半年看了不到一半 很沉闷的一本书 但话题很新颖值得一看 -
因为我也属于愿意变成做人体或者智能强化改造升级，成为所谓后人类的人，所以会对波斯特洛姆感兴趣。这本书读到后面感觉重点是博弈和控制了 -
尼克·博斯特罗姆最近关注人类可能面临的生存风险……最后把目光聚焦到了超级智能身上，斯蒂芬·霍金、比尔·盖茨、埃隆·马斯克等科技界名人都受到了他的影响 -
超级智能的出现已经不可逆，作者的意见是在他们出现前要先想好控制他们的办法并做好最坏的打算。其中的某些部分哲学意味非常浓厚。在我看来，作者的想法有些过于悲观，超级智能的出现对人类来说，即是机遇也是挑战，社会和世界将会面对重大变革，但是我相信最终的走势还是会螺旋向上的。 -
好书 -
翻译能不能说句人话？一边跟翻译搏斗一边磕磕绊绊地看完，除去一开始的铺垫略老调重弹，后面的内容很带感，我又找回了当年看卡尔密室讲义的感觉。脑中不停涌现各种已经被写出来和应该被写出来的科幻（和POI同人）。 -
poor translation -
真的比较难懂 -
神作，有趣之极。远胜于人类认知的超级智能，一旦出现，人类就像拿着定时炸弹又没有大人帮助的儿童，无法自处。Nick Bostrom这本书认真分析了在对未知风险几乎一无所知的情况如何下做好防范措施，战略、路线、国际合作、人类使命，积极而乐观，以及，脑洞极大。。。实在是太复杂了，作者分析显得片面，部分缺乏逻辑，过于理想化。然而，针对于分析而言，提出问题和指明方向是更为重要的（作者在序言说明了这点）。哪怕这种风险大约是50年之后，人类也应该及早行动起来。 -
老生常谈，没意思 -
对于未来，太具体的描述反而失去了真实感 -
不容易读懂的书，不知道是不是翻译的问题，题材很吸引人（包括封面也是），但是内容不好理解。展望了未来ai的种种可能性，人工智能的发展趋势。 -
结合AlphaGo看，很恐怖 -
E -
一本最近在读得好书写到了如何防范人工智能对人类叛变的方方面面，虽然有些没看懂或看懂了又忘记了。喔觉得关于机器人、人工智能相关得电爱好者，编者作者或电影相关的人员，也应该看看此书。里面的任意几点逗刻意拍成一部科幻片得结局。 -
当人工智能超越人类以后，是会毁灭人类还是造福人类呢？当作者在书中提出这个议题的时候，感觉距离这个时间节点还早，可现在，master已经打遍世界围棋大师无敌手了。作者这本书的精华在于试图提出一个人工智能的共同价值观，看起来好像是阿西莫夫机器人三大定律的延伸，但通过思辨，提出给AI（人工智能）找到一个目标，思路很奇特 -
主要探讨AI可能会有的形态是什么样的，人类如何应对AI后的世界
有点超前，不过也算是有点意思
-
这本哲学人文味儿居多… -
《The AI Revolution: The Road to Superintelligence》一文很多观点基本来自本书。本书很有画面感和代入感，阅读过程仿佛观看一部科幻大片。