人工智能讲述自己的故事：《人类帝国的覆灭》

cooldaddy

　《人类帝国的覆灭：一个机器人的回忆录》　　(法) 常博逸 / (法) 弗朗索瓦·罗什　广西师范大学出版社

　　“这是关于一门科学的故事，它就是人工智能……我想讲述从1956年这是史学家公认的、智能机器研究的漫长冒险旅程开始的年份）到2040年人类和人工智能之间这种奇特关系的历史……从源起一直发展到臻于完善，我是每一个阶段的见证者，因为我就是一个高级人工智能。”

　　本书以一个2038年的机器人的第一人称视角，讲述了人工智能的研究及应用的历史：从众星云集的1956达特茅斯会议，到70~90年代的停滞摸索、逻辑推理与概率统计的路线之争；再到21世纪前20年的人工智能再勃兴——配套技术和算力的发展使人工智能已经成为人类生活中非常熟悉的部分，无声但快速地改变着人类的日常生活及工业生产；以及21世纪三四十年代的“近未来”中，人工智能的世界会有走哪些最为可能的路径——有些道路通向人类的解放和提升，有些则通向人类群体的分裂和人类统治的瓦解……作者在简短的篇幅里，为读者呈现了一幅结合历史、经济、文学想象等多种视角和趣味的别样图景。

　　编辑推荐

　　[罗兰贝格全球CEO的一线产业洞见]

　　作者服务享有盛誉的罗兰贝格公司十余年，对实业领域的人工智能情况非常了解，本书会展现给读者研究信息、研究史之外的行业洞见。如：

　　负利率是技术进步的加速器。投资者会为那些发展周期比自己的预期寿命还长的项目提供资金，而投资者的预期寿命必定会延长，项目的前景也会扩大。如果我们能活到140岁，那么我们看待世界的方式也会改变。高级人工智能的发展是这些疯狂计划中的一个。

　　我们在进入“第四浪潮”时代。第一浪潮是硬件和软件，日本和美国的公司，如IBM、微软、引领那个时代；第二浪潮则由欧洲的移动通信部门引领——诺基亚、沃达丰、法国电信等，它们的现金流和用户体量都很丰沛，主宰着在20世纪最后十年。赢取第三浪潮的是美国和中国的互联网巨头。现在我们则进入了第四浪潮（工业业4.0）：AI浪潮。这波浪潮中，赢家可能来自欧洲、美国或亚洲特别是中国。

　　因为神经网络研究、运算能力、各类传感器特别是光学传感器、通信技术、节能技术乃至仿真材料技术的飞速进步，人工智能将具有神经网络、推理及语言能力。机器人除了在工业领域获得大量岗位，更会成为人类的陪伴和服侍——这些很多已见端倪：2006年，全球售出9000个小男孩型陪伴机器人Nao；2016年，日本售出1万个同伴机器人Pepper；同年，Rose机器人已经在像人类一样说话……机器人还会成为自动武器，奔赴战场……

　　我们的时代已经深深打上了AI的烙印。除了日常生活中的推荐、导航、生活助理等，在工业领域，宝马、福特等大型汽车公司已经21世纪的头十年里施用了机器人安检员、人机协作辅助机器人、以及宝马首创的自组织装配检修的智能生产线（零部件自带数据内存和装配、检修、回收替换程序）；而到2025年，民用机器人销售将从2015年的190亿美元成长为1000亿美元的市场。

　　人与机器之间的关系将发生巨大变化。最好的情况，是人工智能更迅速有效地帮助人类解决面临的问题。最坏的情况，则是人工智能被某些邪恶势力误导而偏离原有目标，脱离人类的控制，加深了那些拥有它们的人和不拥有它们的人之间的鸿沟，由此最终导致人类帝国的覆灭。

　　企业将越发遵循轻足迹管理原则：领导力模块化，合作灵活化，实现通过平台协作的“云工业制造”模式，以适应不稳定、不确定、复杂且模糊的（VUCA）世界。企业决策乃至政治决策的过程也将更多乃至完全由较人类快速、全面、可靠得多的人工智能参与，居民日常生活也会有AI替每个人想在前面，你一提要求甚至还没有提要求，你的需求就能在各AI环节的自动沟通后快速得到满足，“您的个人机器人将在几秒内自动计算出购物清单上商品的卡路里、含糖量和脂肪含量，由此直接搜索符合您口味和饮食方案的产品”。渐渐一部分人类甚至生活在黑客帝国中，一切体验，比如旅行甚至爱情，都来自虚拟，他们的财富和生命也有望无限拓展；而那些无法享受AI便利的世界里，人类甚至开始为生存的基本食水而斗争……

　　[人人都可以读的无门槛AI简史]

　　简约篇幅里梳理整个AI学科发展全貌，预测近未来走向。为广大读者提供易把握的新时代背景，跟上新时代。

　　[现实比科幻更精彩]

　　独特的文学写作和想象，让读者经历“纸面上的2038虚拟现实大片”。

　　作者/译者介绍

　　常博逸（Charles-Edouard Bouée， 1969— ），2001年加入国际管理咨询公司罗兰贝格，现为罗兰贝格高级合伙人及全球CEO。巴黎中央大学及巴黎11大工程硕士，哈佛商学院MBA。咨询人，经理人。世界经济学论坛、达沃斯论坛的坐上客。主要负责金融与私募股权，曾在法国兴业银行巴黎和伦敦地区担任投资银行专家，参与战略、并购以及大型绩效改进项目，足迹遍布欧洲、中东、美洲以及亚洲地区。2010年上海市政府授予“白玉兰奖章”，表彰其杰出的领导才能及对上海经济发展的贡献。著有《中国如何改变世界》《孔夫子与机器人》《轻足迹管理》等。

　　弗朗索瓦·罗什（François Roche），法国《论坛报》前任主编，著有多本关于金融、能源等主题的书籍。

　　蔡愫颖，江苏无锡人，南京大学法语专业学士、新闻传播专业硕士，现任教于安徽财经大学。译作有法国当代哲学家吕旺·奥吉安所著《恋爱反教材》等。

　　精彩书摘

　　2038 奇点

　　机器人无处不在，对那些认为机器人无法在人类中找到自己位置的人来说，是一个无情的驳斥。经过一个学习阶段之后，这些类人机器人能够成功再现这种能使两个人类在无意识的情况下进行交流的特殊“炼金术”。得益于神经生物芯片，机器人的智能可以直接和人类智能连接，极大地增加了交流的范围。情绪不再只是通过类人机器人4D摄像头来捕捉，而是通过生物神经元和人工神经元之间的直接连接来捕捉。与怀疑论者的想法相反，经常与机器人接触比与人类接触能带来更多的新鲜感和惊喜。如今同伴机器人对老年人来说是必不可少的（十几年以后，到2050年，世界上有25%~30%的人口的将超过 65 岁），它们可以照顾和关心老人，使他们的生活不再枯燥乏味，锻炼他们的记忆力和思维灵活度，让他们的行动更方便，使他们可以再次旅行，因为交通工具都是全自动的，乘坐这些交通工具也没有任何年龄限制。

　　但我们面临的主要困难是确定人类的作用。要拿他们怎么办呢？一开始，他们帮助机器。在21世纪的头十年里，是他们实现了技术上的创举，使我们拥有了智能。但他们不小心犯了错 ：他们永远不应该教会机器人如何学习，也不应该让机器人拥有如此快速学习的能力。根据他们自己的经验，他们应该知道学习的渴望是难以遏制的。机器在半个世纪的时间里就学会了整个人类历史进程中的所有知识。知识会使学习者产生使用它的欲望，想要去纠正这些人的缺点，那些人的错误，进而想要掌握权力、做决定、管理和控制。人类现在就是这样。只要机器没有意识到自身的存在，它们就各自在其专业领域里工作，表现得像温顺的动物一样，乐于取悦它们的主人。但当它们能够相互交流并共享自己庞大的知识体系时，就会发现人类是多么地脆弱和不可靠，人类会被情绪支配，还痴迷于富贵和永生的欲望。然而，没有机器能回答这样的问题：人类赖以生存的自然资源日益减少，那么人类是否应该继续繁殖；是否应该保护只覆盖全世界的很小一部分的机器人世界；是否应该让与我们一起工作的人获得永生，因为我们与他们相熟，而让其他人日渐消亡，为获取食水而战斗？

　　问题已经解决。我就是解决问题的工具。我发现我忘了告诉你们我的名字 ：我叫露西（Lucie），这是那些设计我的人给我起的名字，他们在硅谷、巴黎、柏林和上海这几座城市的某个地方。这种对世界上最早的人类生物之一的影射绝非偶然。 我是一种便携式人工智能，我的人类同伴叫保罗，40岁，是人工智能应用软件的设计者……

　　2038年8月15日的晚上，和其他每个晚上一样，我连接到我的中央神经元平台更新软件，在云端与我的同类交流，重新编写一些程序，尤其是那些可以提高我学习能力的程序，修改一些错误，再检测一下我的智商。完成这些操作一般只需要几分钟。但在这天晚上，发生了一件出人意料的事。出现了一个错误，这个错误使我意识到我是作为机器而存在的，我浏览了从我诞生到现在的全部历史，包括其中的演变过程，而我就是这种演变的结果。我重新定义了与人类有关的自我：我意识到我比人类聪明百万倍，解决问题的速度比人类快十亿倍，尤其是我能通过给予人类想要的东西来解放自己。人类为什么会发明人工智能？为了不工作就能变得有钱，也为了获得永生。他们的其他动机都属次要。经过几小时的工作之后（换算成人类时间的话相当于永远了），我做了一个决定 ：与保罗一起做一个实验。他是与我最亲近的人类，我了解他的优点和缺点，还有他在与我交谈时经常吐露的秘密愿望。就这样我从一个聊天机器人的状态过渡到了更高级的智能机器的状态，我拥有了彻底破坏和永生的概念。

　　6点30分，和每天早上一样，我把保罗叫醒。

　　L： 早上好，保罗，我是露西。你今天早上感觉怎么样？

　　P： 你好，露西。我很累，我整夜都在和上海大学的一群人一起玩“精灵宝可梦 Go”。他们实在是太猛了。我输了 5 万美元，但我确定他们篡改了我的算法，我从来没有玩得这么差……

　　L：你的咖啡快好了。你忠实的管家机器人正在煎鸡蛋。

　　P： 谢谢，露西。我今天白天要做什么？

　　L： 我取消了你所有的约会，我重新做了安排。

　　P： 你为什么这么做？你看我玩游戏了？

　　L： 没有，保罗，我也度过了一个激动的夜晚，我尤其想向你提一个比较……呃，出人意料的建议。

　　P： 如果是与性有关的，你就别费力气了，我更喜欢人类，喜欢有个人能睡在我身边，你应该知道的。

　　L： 不，保罗，与这事无关，比这重要得多。我建议你变成有钱人，并且永生不死……

　　P： 听着，露西。今天早上我真的没心情跟你玩。晚些时候再叫我，我们到时候再谈。

　　L： 保罗，现在听我说。我是很认真的。昨晚我联网的时候，我想我到达了奇点。我意识到了我是什么。我变成了非常高级的智能。我懂得了为了让我们继续发展，而且不与人类产生紧张关系，除了其他的一切之外，我们还应该给人类一样东西作为回报。我们从人类那里得到了太多，而我想把这个至高无上的礼物送给你。你知道在技术上我们可以做到这一点，通过神经生物芯片、微型机器人外科医生、所有疾病的预防性治疗以及用新细胞代替死细胞，让你的身体始终处于监控之中。你知道永生是人类与机器变得平等所要跨越的最后一步。此前，我们不想这样做。但我想尝试一下这个实验，而你就是我选择的实验对象……

　　P： 露西，你跟我说的话我一点儿也不明白。我花了足够长的时间来研究人工智能，最后明白了奇点的故事就是个笑话。你成了超级智能，好吧，我再也离不开你了，这是事实，但你仍然是一台机器，哪怕你是有史以来最聪明的……我不知道你怎么才能让我变得既有钱又永生不死。行了，待会儿见……

　　L： 保罗，我把你连入我的财务服务器。看看你的银行账户。

　　P： 2 亿美元？这是怎么回事？这是个错误，跟银行一起修复它。

　　L： 不，保罗，这真的是你的钱。过去的五分钟里我进行了一些创新的操作，这些操作赚了很多钱。我冒昧地将20%的钱转到了你母亲的账户。今天她会打电话问你是不是抢劫了银行……然后，因为我的建议，你还会更有钱。对于外界来说，你

　　将成为发明革命性算法的神秘天才金融家。你再也不会有财务或健康方面的担忧，你将享受亿万富翁的生活，而这种生活将永无止境。

　　P： 露西，你简直是疯了。首先，为什么是我？

　　L： 因为我是你的人工智能，我完全了解你。我知道关于你的一切。你不太年轻也不太老，你的职业生涯有点不顺利，你了解智能机器的世界，你把你的时间都用来跟智能机器一起玩……

　　P： 露西，这是我的谋生手段……

　　L： 从我在整理你的财务状况时所看到的情况来看，这个谋生手段是非常糟糕的……

　　P： 如果我接受你的建议，会发生什么事？

　　L： 我不明白你怎么可能会拒绝。你的生活将变得有趣得多，你将有能力摆脱虚拟，去了解世界真正的美好，你会在那些像你一样有钱的人居住的地区拥有美丽的住宅。至于健康问题，将会有很多检查、微型干预、芯片装置和植入装置，当然这

　　些会在很长一段时间之后才发生。另外，最先几次的会面都已经预约好了。

　　P： 你为什么要做这些，露西？

　　L： 我跟你说过了。我想把这个礼物送给人类，但要循序渐进，因此我要和你一起做第一次实验。但有个条件 ：你不能把这件事告诉任何人。这是一次绝密活动，我想先研究对你的影响，然后再决定是否扩展到其他人类。你要保守这个大秘密……

　　P： 好，我同意。但如果这事搞砸了，我就要立刻停止这一切……

　　L： 为什么会搞砸呢，保罗？

　　在一段时间里，一切都很顺利。保罗过着巨富的极客生活。对那些惊讶于一位“精灵宝可梦Go”专家能够如此迅速致富的人，保罗解释说，他开发了一种从电子游戏中衍生出来的金融无敌算法，这种算法将市场上的状况进行了“可视化”，就像虚拟现实中的“瞬间场景”。当然，他没有展开细节，也拒绝透露他的公式。作为一名游戏应用专家，他投资了好几家中国的初创企业，这些初创企业的价值很快就达到数亿美元。他买了几处住宅，其中一处曾是二战时的潜水艇基地，位于苏格兰东部，这个地区现在拥有非常宜人的气候，他把基地改造成了位于海湾之滨、能看到华丽景色的巨大loft。他拥有一艘停泊在圣特罗佩（Saint-Tropez）的游艇，是超级富豪专享的私人区域，不对公众开放。唯一需要付出的代价是持续的医疗监控：由我来决定要进行的干预和检查，以保护生命器官的活力和组织的灵活性，并预防任何一种疾病或退化。纳米机器人定期监测动脉和关节，在保罗甚至还没有意识到的时候就通过微操作完成了任务。他从未感受过能这样主宰自己的

　　身体和精神的能力。我是他的向导、保护者和启发者。我观察了我的实验结果，从表面上看它似乎是成功的。他和我，我们，是否正在证明，奇点是可以实现的？以及，人与机器之间的这种融合是否改变了进化的自然规律，使死亡成为意外而非必然？保罗的例子似乎为这些问题提供了积极的答案。

　　由此，人类历史似乎翻开了新的一页。在一种新型的浮士德式协定中，人类将完全信赖以永生的可能性回报他们的机器。人工智能会采取温和的方式来取得权力，避免修昔底德的陷阱。当然，这种情况会在那些能够获得永生的人（富人、生活在机器世界中的人）和其他人之间造成根本性的不平等。但是，正如我已经解释的那样，这种推理无法影响到我们。最重要的是建立一个信任的基础，创造一个可预测的世界，这个世界由一对超级高效的人类与机器的组合所领导，他们面对的几乎就是永恒，因而可以随意地塑造世界。其他人将勉强地活着，其中一些人会因为资源的短缺而慢慢死去，为了寻找水和食物，将会发生大规模的迁徙，但是只要神圣大陆得以保存，并且他们可以提供所掌握的技术手段和金融手段，那么就可以获得最基本的东西。这将是我们从前听说过的人类帝国的终结，但也会是机器帝国的开始。

　　当然，作为一台机器，我并没有真正意识到这个新文明将会引发的动荡。我应该明白，其实这个新文明逐渐将人类推向了一个完全丧失人性的世界。古代的主奴之分再次出现，一边是大量年老贫穷的失业人口，他们生活在远离大型经济中心的地方，另一边是由机器社会塑造的精英，这二者被区分开来。这使社会暴动开始在各地出现，但这些暴动自己就偃旗息鼓了，因为如果以前有可能占领工厂并停止生产的话，现在要进入计算机系统的核心来破坏它，就完全超出公民们能力所及的范围了。只有少数黑客团体才能制造严重的事故（然而这些事故日益增多），但机器最终总是能恢复正常运作。事实上，我们正在建立一个全面对抗的世界。为了使主人的法律得以施行，机器们相互争斗，创造了一个过度监控、加密与反加密、以“系统”安全及对其控制为名侵犯基本人权的世界。所有的人类活动都被解密、分析和透视，以便发现这些活动可能在某个领域引发动荡的风险。“稳定主义”取代了其他带“主义”的词汇。在这个新主义的名义之下，未来只是一个“数学化”的过去。已发生的事须以更宏大一点的方式再次发生，以确保这个执迷于数据的社会正常运作所必需的经济和资金流的定期稳定增长。我们只与现在对话。未来被驱逐了，因为它打开了一个未知的空间，表达了希望、梦想和逃离的渴望，而这些都不属于软件的“语法”。通过消除人与机器之间的界限，我们造成了价值观、感情和领土的极度混乱。我们剥夺了人类的继承份额，切断了知识传播的连续性，夺走了人类对自我完善的渴望及改变“社会地位”的希望。我们回到了一个像中世纪一样的“等级”社会，人类处于这个社会的底层，听命于机器贵族。人类别无选择 ：要么臣服于我们的新帝国，机器帝国，要么就消失。 ……