《我们最后的发明》书评

埃隆·马斯克推荐了这本书

中文意思是：关于人工智能的风险问题，詹姆斯·巴拉特的《我们最后的发明》一书值得一读。

毁灭你，但与你无关

这篇译后记和全书略有唱反调。有可能并未出现在书里（不过我暂时还没收到样书，无法确认）。单纯从阅读的角度来说，我很推荐它，因为好玩、有趣、思路清奇、剑出偏锋，但从知识的角度来说，它其实不是那么“科学”、不那么“理性”。——————毁灭你，但与你无关说起来，我是怀着“机器翻译什么时候会取代人工翻译”这种失业恐惧感开始接触人工智能的话题的。恐惧是很好的动力，而有动力就有行动，这两年先后我完成了《与机器赛跑》、《最有人性的“人”》等人工智能图书的翻译，工作之余阅读的相关论述就更多了。不过这些书大多都是很客观的科普论述，不曾提出惊悚的言论，甚至对人类的未来抱有极乐观的态度。未来几十年即将发生什么样的事情，再犀利睿智的学者也只能对大趋势进行预测，而无法知道我们会怎样一步步地走到那一天。（换句话说，我与其担心机器翻译取代人工翻译，不如担心电子短阅读时代的到来对出版行业的冲击。——置身夕阳产业就是这一点不好，要担心的可怕未来真是太多了！）不过，《我们最后的发明》很不一样。作者原本是个纪录片导演，拍一些“揭破阴谋论”的纪录片，比如揭破外星人飞碟录像，揭破古墓古书的谜团，等等。或许是出于“你凝视深渊，深渊也凝视你”的缘故，这本书的立意和笔调都很有点“阴谋论”意味，他采访了一大堆人工智能领域的专家、牛人，只想证明自己的观点：“人工智能会导致人类的灭绝。”但这些专家都是技术人士，比较认死理，坚决不上当，有理有据地向他解释，“你说的这种情况发生可能性比较低，我们的看法是这样的……”作者也是个犟脾气，这位专家不认同自己的观点，下一章又找另一位专家，继续抛出自己的疑问，再继续被专家打脸；他再继续找另外的专家，继续被打脸，如此循环往复了好几章。以至于在前几章，我会忍不住边翻译边吐槽：“作者大哥，你到底什么时候才能闹够？”书进行到一半之后，好戏才真正上演。作者终于提出了在技术上站得住的观点：飞速发展的人工智能（也即机器智能）有可能给人类带来大麻烦，但那不是因为它们蓄意如此，而是因为机器智能是一种跟人类智能不同的存在。人不能拿“人之常情”去推测机器之“心”。这就好比，潜艇也能“游泳”，但潜艇不具备任何鱼的生物特征，你无法根据鱼的存在来推测潜艇是什么东西。往深处想，这一点真的很要命。一些科学家反对寻找地外文明的原因也在于此，因为存在的形式不同，人类无法依靠自己在进化中获得的最强大工具“共情”去进行揣测。面对一种自己完全无法预测其行为的智能物体，任谁也会觉得“非我族类其心必异”吧？此外，这两年的一些技术发展趋势也很好地从侧面解释了什么叫“毁灭你，但与你无关。”辉煌一时的诺基亚彻底消失了，可那不是因为有来自同一行业的强大对手，而是因为苹果为“便携电脑”加入了“手机通讯”功能：换句话说，两者从未在传统手机行业展开过角力。智能手机、智能平板的发展，还间接地毁掉了（或者极大地打压了）MP3市场、便携数码相机市场、电子阅读器市场。这也就是说：“高等级存在”会从“低层级存在”想都想不到的角度，对后者造成毁灭性破坏。不管怎么说，哪怕单纯读者诸君脑洞开得不如作者大，只单纯希望了解人工智能技术最前沿的进展，阅读本书也绝对是场有趣的脑力激荡体验。不过，我毕竟不是相关从业背景，疏漏想必在所难免。有些名词的翻译估计也不甚完美。如果读者朋友们发现错处，还请大力批评。