比尔·盖茨：​读懂 21 世纪最大困境

人类天生就是一个技术物种。 从诞生之初，我们便与技术浪潮紧密相连，共同进化，共生共存。一场新的技术浪潮正汹涌而来，势必以令人敬畏的方式重塑我们的世界。 最近，比尔·盖茨在其 2024 年推荐书单中，推荐了由前 DeepMind 联合创始人，现任微软 AI CEO 穆斯塔法·苏莱曼所著的《浪潮将至》，并特别撰写了一篇文章，称这本书是「我最喜欢的关于 AI 的书」。 比尔·盖茨在文中写道： 当人们问我关于人工智能的问题时，他们的问题往往归结为这一点：我应该担心什么，应该有多担心？过去一年，我的回答是建议他们读一读穆斯塔法·苏莱曼的《浪潮将至（The Coming Wave）》。这是我向国家元首、商界领袖和其他任何有此疑问的人推荐最多的一本关于 AI 的书，因为它提供了一种罕见的东西：对未来非凡机遇和真正风险的清晰看法。 作者穆斯塔法·苏莱曼对这个话题有着独特的见解。在帮助 DeepMind 从一家小型初创公司发展成为过去十年最重要的 AI 公司之一后，他又创立了 Inflection AI，现在领导着微软的 AI 部门。但这本书的特别之处不仅在于穆斯塔法的亲身经历，更在于他对科学史和技术革命发展过程的深刻理解。他是一位严肃的知识分子，能够将几个世纪的科学进步进行有意义的类比。 对《浪潮将至》的大多数报道都聚焦于它对人工智能的论述上——这也在情理之中，因为它是有史以来关于 AI 的最重要书籍之一。可能没有人比穆斯塔法更有资格来写这本书了。2016 年，当 DeepMind 的 AlphaGo 击败世界顶级围棋选手时，他就在现场。围棋是一种比国际象棋复杂得多的游戏，背后有着 2500 年的战略思考，而 AlphaGo 的行棋步法是从未有人想到过的。通过这一胜利，这个基于 AI 的计算机程序展示了机器可以在我们自己的游戏中打败人类，并让穆斯塔法提前瞥见了未来的趋势。 但使得他的书与众不同的，是穆斯塔法对 AI 的见解：人工智能只是前所未有的科学突破汇聚的一部分。基因编辑、DNA 合成和生物技术的其他进步也在同步向前发展。正如书名所示，这些变化就像海面上的浪潮——对许多人来说仍然不可见，但它们正在积聚力量。每一项技术单独来看都足以改变游戏规则，而它们结合在一起，将重塑社会的方方面面。 历史学家尤瓦尔·赫拉利认为，在开发先进的 AI 之前，人类应该先弄清楚如何合作和建立信任。理论上，我同意这一观点。如果我有一个神奇的按钮，可以在 30 到 40 年内放慢这一进程，让人类有时间解决信任和共同目标的问题，我或许会按下它。但那个按钮并不存在。无论任何个人或公司做什么，这些技术都会被创造出来。 眼下，随着成本急剧下降和计算能力的增长，进展已经在加速。 而推动发展的动力则来自于利润和权力的诱惑。 此外，利益和权力也是推动发展的动力。 国家与国家之间竞争，公司与公司之间竞争，个人与个人之间竞争荣誉和领导地位。 这些力量使得科技进步势不可挡，同时也使得其更加难以控制。 在我关于 AI 的讨论中，我经常强调我们需要考虑的三大风险。首先是经济动荡的快速步伐。AI 能会从根本上改变工作的本质，影响到几乎所有行业的工作，包括那些传统上被认为不受自动化威胁的白领职位。第二个风险是控制问题，即确保 AI 系统随着技术的进步，仍然与人类的价值观和利益保持一致的困难。第三个风险是，当不法分子掌握 AI 时，他们将变得更加强大，并且更有能力进行网络攻击、制造生物武器，甚至危害国家安全。 最后一个风险——赋能不法分子——引出了我们这个时代最大的挑战：遏制。我们如何在利用这些技术的好处的同时，限制它们的危险？这就是《浪潮将至》一书的核心问题，因为遏制是所有其他问题的基础。没有它，AI 和生物技术的风险将变得更加尖锐。首先解决这个问题，我们才能创造解决其他问题所需的稳定和信任。 当然，说起来容易做起来难。 如核武器等以往的变革性技术可以通过物理安全和严格的访问控制来遏制，而 AI 和生物技术则带来了根本不同的挑战。它们越来越容易获取和负担得起，它们的发展几乎无法被察觉或监控，而且它们可以在幕后操作，只需要很少的基础设施。如果禁止这些技术，意味着好人会单方面解除武装，而坏人依然会向前推进。而且这会伤害到所有人，因为这些技术本质上是双重用途的。可以用来制造生物武器的工具，也可以用来治愈疾病；可以用于网络攻击的 AI，也可以增强网络防御。 那么，在这个新现实中，我们如何实现遏制呢？抱怨穆斯塔法没有凭一己之力解决人类历史上最复杂的问题之一，显然是不公平的。尽管如此，他还是提出了一个与挑战规模相称的雄心勃勃的议程——涵盖了从技术解决方案（如为 AI 系统建立紧急关机开关）到广泛的制度性变革，包括新的全球条约、现代化的监管框架，以及政府、企业和科学家之间的历史性合作。当你读完他的建议清单时，你可能会怀疑我们是否真的能及时完成所有这一切。但这正是这本书如此重要的原因：它帮助我们在仍有时间采取行动时，理解这种紧迫性。 我一直是个乐观主义者，阅读《浪潮将至》也没有改变这一点。我坚信，AI 和生物技术的进步能够帮助我们实现突破性的进展来治疗致命疾病、应对气候变化的创新解决方案，以及为每个人提供高质量的教育。但真正的乐观主义不是盲目相信，而是看到其潜力和风险，然后努力塑造更好的结果。 无论你是科技爱好者、政策制定者，还是仅仅想了解世界未来走向的人，都应该阅读这本书。它不会给你简单的答案，但它会帮助你提出正确的问题——并让你更好地准备驾驭即将到来的浪潮，而不是被它卷走。 比尔·盖茨对这本书的评价是：「在巨浪般的时代，它是一部为你指引航向的作品。」 作为开创性的人工智能公司 DeepMind 的联合创始人和微软人工智能的 CEO，作者穆斯塔法·苏莱曼一直处于这场浪潮的中心。他认为，未来 10 年将被这一波强大、快速扩散的新技术所定义。 我们精心提炼了《浪潮将至》中关于强大、快速扩散的新技术的深刻见解，旨在为读者提供了一剂现实的镇静剂，帮助大家更加从容地面对和适应当前的技术冲击。 人工智能正席卷世界 人工智能的大规模应用已如火如荼。放眼望去，软件已经深入生活的方方面面，帮助我们搜集和分析海量数据。这些数据正用于训练人工智能系统，使其能够在我们日常生活的几乎每个领域创造出更高效、更精准的产品。 同时，人工智能的获取和使用也变得日益便捷：因为有了如 Meta 的 PyTorch（一个开源的深度学习框架）和 OpenAI 的应用程序编程接口（API）这样的工具和基础设施，非专业人士也能轻松掌握尖端的机器学习能力。此外，5G（第五代移动通信技术）网络和其无所不及的连通性为我们构建了一个庞大且持续在线的用户群体。 人工智能正逐步从演示阶段过渡到现实世界的应用中。 要不了几年，人工智能将能以与人类一样的方式对话、推理，甚至采取行动。 它们的感知系统将和我们的一样敏锐。 这并不等同于它们达到了超级智能水平，但它们确实会成为异常强大的系统。 这意味着人工智能将紧密地融入我们的社会结构，成为其不可分割的一部分。 人工智能真的不再是「新兴」的了。它存在于你每天使用的产品、服务和设备中。在生活的各个领域，大量应用程序正依赖于 10 年前还不可能实现的技术。这些技术有助于在如今治疗成本不断攀升的背景下，发现治疗某些棘手疾病的新药。 深度学习可以检测水管裂缝，管理交通流量，模拟聚变反应以开发新的清洁能源，优化航线，以及辅助设计更可持续、功能更丰富的建筑材料。深度学习技术也被用来驾驶汽车、卡车和拖拉机，有可能创造出更安全、更高效的交通基础设施。在电力和水资源系统中，它被用来有效管理稀缺资源，缓解日益增大的资源压力。 人工智能系统能够管理零售仓库、提供邮件写作建议、推荐歌曲、检测欺诈行为、撰写故事、诊断罕见疾病，甚至模拟气候变化的影响。它们出现在商店、学校、医院、办公室、法庭和家庭中。如今，你每天都会和人工智能互动很多次；未来，这种互动将更加频繁。几乎在任何方面，人工智能都将使人类体验变得更加高效、快速、实用和顺畅。 人工智能已经在我们身边了，但这仅仅是个开始。 21 世纪人类须面对的重大元问题 在人工智能之外，一场更为广泛的技术革命已然兴起。在这场革命中，人工智能正推动新兴的、强大的基因技术和机器人技术突飞猛进。 在这个错综复杂、多种技术相互交织的局面下，一个领域的进步会加速其他领域的发展，而这种相互强化的局面已经超出了任何人的直接掌控。 显然，如果任何人能够成功地复制人类智慧，那就不仅仅意味着一个有利可图的商机，更预示着人类历史的一次重大变革。它将开启一个新的纪元，带来前所未有的机遇，同时也伴随着前所未有的风险。 这些年来，随着技术的不断进步，我的担忧也与日俱增。如果这股技术浪潮实际上是一场无法阻挡的海啸，那么我们该怎么办？ 2010 年时，几乎无人认真探讨人工智能。如今，这个曾被视为仅属于少数研究人员和企业家的研究任务，已经演变为一个吸引全球广泛参与的宏大领域。人工智能无处不在。无论是在新闻报道中，还是在智能手机中，甚至在股票交易和网站建设的过程中，我们都能见到它的身影。 这些新兴技术一旦成熟，将会迅速普及，价格将变得更便宜、获取将变得更便捷，其将广泛渗入社会的各个领域。 它们将带来卓越的医学进步和清洁能源的突破，不仅能催生新的商业机会，还将在几乎所有我们可以想象的领域中促进产业多样化和生活质量的提升。 然而，除了带来众多利益，人工智能、合成生物学以及其他尖端技术也将引发令人忧虑的尾部风险。这些风险可能对民族国家的生存安全构成威胁，其影响之深远，足以动摇甚至颠覆现有的地缘政治格局。 设想一下，由人工智能助力的网络攻击、可能引发国家毁灭的自动化战争、人为制造的流行病，以及一个由看似强大但充满未知力量的技术所主导的世界，这些极端情况在技术的推动下都有可能成为现实。 尽管每种情况的发生概率都不大，但其潜在后果都是灾难性的。因此，即便这些后果出现的可能性较小，我们也必须保持高度警惕。 面对这些潜在的灾难性风险，一些国家可能会采取高度技术化的威权主义手段来应对，以减缓这些新力量的扩散。这很可能导致对个人隐私的严密监控和大规模侵犯。 技术的严格控制可能会催生一个反乌托邦式的全球监控体系，在这个体系下，一切事物和个体都将受到无间断的监视。 人们对预防最极端的潜在后果的渴望为这个监控体系提供了合理化的借口。 同样可能出现的是卢德主义式抵抗。一系列针对新技术的抗议、抵制和要求暂停的声音可能出现。然而，放弃新技术的研发并全面暂停其应用，这可能吗？答案似乎是否定的。 考虑到新技术所带来的巨大地缘战略和商业价值，我们很难想象有谁能轻易说服国家或企业单方面放弃这些技术所带来的变革力量。此外，试图阻止新技术的发展本身就是一种危险。历史上，技术停滞的社会往往不稳定，容易崩溃。这样的社会最终会丧失解决问题和实现进步的能力。 从当前的视角来看，无论是追求还是避免新技术都存在着巨大的风险。随着技术变得更加便宜、强大，普及度更高，风险也在逐渐累积。在这些风险中寻找一条安全的“狭窄小道”，以避免陷入技术专制主义的反乌托邦或陷入技术开放可能带来的灾难，变得越来越困难。 然而，放任自流也非明智之举。尽管我们对技术风险深感担忧，但我们前所未有地需要即将到来的技术浪潮所带来的巨大好处。这正是我们面临的核心困境：新一代的强大技术迟早可能将人类引向灾难性或反乌托邦式的局面。我坚信这是 21 世纪人类必须面对的一个重大元问题。 在洪水来临之前做好准备 现实情况是，过去我们并没有有效遏制技术的发展。如果现在想做到这一点，我们就需要实施一些全新的、全面的方案，其需要涵盖安全、道德、监管和控制等多个方面。而这类方案迄今为止还没有明确的名称，乍一看甚至觉得这样的方案不可能存在。 我们面临的困境本应是一个迫切的行动召唤。但多年来，显然大多数人觉得这些信息有些难以接受。我完全能理解，因为初次接触这些信息时，它们看起来似乎很不真实。在关于人工智能和监管的众多讨论中，我惊讶地发现，与应对许多现存的或即将出现的挑战相比，说服人们正视诸多风险要困难得多。他们很难相信这些风险既非微不足道的尾部风险，亦非科幻小说的虚构情节。 在开始探讨这些问题之前，我们已经面临一项重要挑战，即一提到技术，普通大众脑海里浮现的便是一系列冗余的应用程序。“技术”一词经常让人联想到社交媒体平台和用于监测步数和心率的可穿戴设备。人们很难想到技术还包括对全球粮食供应至关重要的灌溉系统，以及新生儿生命维持设备。实际上，技术的作用远不只存储自拍照片，它代表着世界文化和智慧的积累。科技并非小众领域，它是主导人类生活的核心。 在相互冲突的议程中，该如何找到共同点呢？中国和美国在限制人工智能的发展上存在分歧。美国 Meta 公司不会认同“社交媒体是一个问题”这个观点。人工智能研究人员和病毒学家认为，他们的工作是理解和预防灾难的重要部分，而非导致灾难的关键因素。“技术”从表面上看，并不像全球变暖那样是一个问题。 然而，事实可能并非如此。 第一步是认识问题。我们需要冷静地承认，技术浪潮即将到来，如果不大幅改变现有路线，我们就将陷入困境。摆在我们面前的有两条路，要么努力应对持续开放和无节制的追求所引发的一系列积极和消极的结果，要么承担我们试图遏制强大技术扩散而可能产生的反乌托邦和威权风险（技术所有权的高度集中势必存在此类风险）。 我们必须做出抉择。 最终，我们需要在广泛征询意见的基础上寻求平衡，当然，公众关注程度越高越好。 如果这本书能引发批评、争论、建议和反建议，那么越多越好。 一群聪明人躲在某个秘密地点不可能有神奇的解决办法。情况恰恰相反。 当前的精英一门心思想避免悲观情绪，以至于不敢正视我们面临的危险。他们乐于私下发表观点和争论，却不太愿意公开谈论。他们习惯于一个充满控制、秩序井然的世界，比如 CEO 掌控公司，央行行长决定利率，政府官员负责军事采购， 或者城市规划者决定修补哪些路面坑洼。他们的控制手段当然并不完美，却是已知的、经过测试的，通常也是有效的。但在这里，情况并非如此。 现在是一个关键时刻。技术浪潮真的要来了，但还未把我们淹没。尽管大势已定，但浪潮的最终形态，即我们将面临的具体困境，还未确定。我们不能浪费几十年的时间等待结果揭晓。我们应该立马着手应对。 在下一章中，我会概述需要关注的 10 个领域。这并不是一份详尽的指南，更非最终的答案，而是必要的基础。我的目的是引发思考，希望朝着遏制技术浪潮的方向迈出关键的第一步。我提出的这些观点的共同之处在于，它们都着眼于边际收益，即通过缓慢、持续地汇聚小成果来提高理想结果出现的概率。我们的目标是改变技术开发和应用的环境，其中包括想方设法争取时间、放慢节奏、为深入研究答案提供空间、引起大众关注、建立联盟， 以及推进技术工作等。 我认为，在当前环境下有效遏制即将到来的技术浪潮是不可能的。 然而，通过这些举措，我们或许能够改变潜在的条件，让现状逐步改变，从而为遏制技术浪潮创造可能性。 我们应该清楚地认识到，尽管可能会失败，但这是构建一个技术浪潮得以有效遏制、人类繁荣发展的世界的最好机会。 万无一失的保证是不存在的，我们也不可能轻易获得成功。任何期待迅速解决问题、寻找简单答案的人肯定会失望。面对这一困境，我们只能采取一贯的立场：尽最大努力，期待最好的结果。 亲爱的读者们， 请星标《碳链价值》 ，不然会收不到最新推送。我们精心创作和精选的每一篇内容希望都能为读者们带来理性思考与启发。