美国兰德公司（RAND Corporation）此前刊发研究论文《通用人工智能之路上的均衡策略》（Equilibrium Strategies on the Path to Artificial General Intelligence）。文章认为，在缺乏互信的竞争关系中，合作未必只能依赖规范呼吁。当失控、扩散等灾难性系统风险足够大且可信时，合作也可能成为自我执行的理性选择。这一判断为建立AI安全评估互认、重大事故通报和前沿模型风险信息共享机制提供了思路。

以下内容系对原文主要观点的编译和阐释，对技术性博弈论内容做了必要简化。文中观点不代表编译者或发布平台立场，完整论述及作者原意请参阅英文原文。

文章将通往通用人工智能（AGI）的地缘政治竞争，建模为两个主要科技行为体之间的一系列战略互动。作者借鉴冷战时期核竞争的博弈论分析框架，依次构建五个递进模型：单次博弈显示，即便合作能够带来更高的集体收益，由于AGI可能形成压倒性先发优势，双方仍会被推向“相互确保人工智能瘫痪”（Mutual Assured AI Malfunction，MAIM）的囚徒困境。“奇迹武器”模型进一步表明，AGI突破若转化为颠覆性军事或网络能力，将强化先发制人和追求垄断的激励。重复博弈及先发制人打击模型则说明，单纯延长互动并不能自动带来合作，反而可能使战略不稳定持续累积。文章的核心贡献在于第五个模型，当未对齐AGI、能力扩散、网络漏洞利用、生物风险等累积性系统风险被纳入收益结构后，无约束竞争将同时危及双方。当灾难性后果足够严重且可信时，合作性防扩散可能成为一种自我执行的理性选择。文章认为，明确并验证AGI滥用的全球性代价，是推动主要行为体从破坏性竞争走向合作治理的重要路径。

菲利普·鲁特（Philip Root），Lunar Pacific创始人，曾任美国国防高级研究计划局（DARPA）战略技术办公室主任，持有航空航天工程博士学位。

AGI若在未来成为现实，将带来巨大的机遇，也伴随尚未充分量化的风险。由于AGI可能对军事力量、地缘政治竞争和国家安全格局产生深刻影响，相关讨论常被类比于核武器出现初期的战略震荡。文章借鉴冷战时期核竞争中的博弈论分析传统，试图将通往AGI的地缘政治竞争转化为一组可分析的战略互动模型。

文章使用博弈论进行分析的价值不在于简单证明某种均衡存在，而在于帮助识别不同策略安排下的激励结构，并探索通向更理想均衡的可能路径。换言之，文章并非要预测AGI竞争必然走向何处，而是希望说明，在何种条件下，竞争会滑向相互破坏，而在何种条件下，合作可能成为理性选择。

在模型设定上，作者将通往AGI的竞争简化为两个主要科技行为体之间的博弈。作者也承认，这一简化存在明显局限。与核武器研发主要由国家主导不同，前沿AI开发能力更多掌握在私营企业、公共机构和学术界手中。同时，许多中等国家也在参与前沿AI发展。因此，两方博弈模型虽然有助于突出大国战略互动的基本逻辑，但并不能完整反映全球AI竞争与治理的复杂现实。

文章设定了三种基本策略。第一是合作（Cooperate），即利用对方的研发资源，共同推进先进AI能力发展；第二是自力更生（Self-Reliance），即与对方脱钩，在不采取攻击性行动的情况下独立发展；第三是破坏（Disrupt），即在独立发展的同时，通过硬件、软件或其他干扰手段限制和迟滞对方的AI发展。作者特别假定，破坏行为在模型中不会直接触发更大规模冲突，以便集中讨论策略本身的收益结构。

文章讨论的关键概念之一是“相互确保人工智能瘫痪”（Mutual Assured AI Malfunction，MAIM）。这一概念源自丹·亨德里克斯（Dan Hendrycks）、里克·施密特（Eric Schmidt）和汪滔（Alexandr Wang）合著的《超级智能战略》（Superintelligence Strategy），指双方均尝试通过软硬件层面的破坏行为，给对方AI发展制造摩擦和迟滞。作者强调，与《超级智能战略》书中将MAIM作为政策建议不同，文章并不主张采取MAIM，而是分析MAIM在何种条件下会成为一种均衡结果，并进一步探索合作、破坏与防扩散之间的策略空间。

另一个重要概念是“奇迹武器”（Wonder Weapons）。这一概念源自吉姆·米特（Jim Mitre）和乔尔·B.·普雷德（Joel B. Predd）的研究，指可能以突变方式重塑军事力量平衡和威慑格局的颠覆性能力。在AGI语境下，“奇迹武器”可能表现为一种由AI赋能的决定性网络或军事能力：它不仅能够阻止对手继续发展AI能力，还可能削弱对手的地缘政治地位。作者借此说明，一旦AGI突破被视为可能带来压倒性先发优势，竞争双方的策略激励将发生显著变化。

第一个模型是单次完全信息博弈。双方均有三种策略选择：合作、自力更生和破坏。其中，合作指利用对方研发资源共同推进AI能力建设；自力更生指在脱钩状态下独立发展；破坏则指在自主发展的同时，通过干扰、破坏等方式拖慢对方AI发展。

作者认为，尽管合作能够带来更高的总体收益，但由于AGI具有极强的先发优势，一方率先突破可能获得压倒性收益，双方因此都有动机通过破坏削弱对手。在这一激励结构下，“破坏”成为占优策略，“相互破坏”（Disrupt, Disrupt）构成唯一纳什均衡。这与经典“囚徒困境”类似：个体理性选择最终无法导向社会最优结果。

作者据此观察到，当前AI竞争中的一些现实张力已在这一简单模型中有所体现。例如美国优先追求本国在人工智能的优势地位，在理念上接近“MAIM优先”的战略取向。与此同时，也有不少观点主张中美在人工智能领域开展更明确的合作，理由在于，人工智能失控的风险尚难以量化，一旦失控，其后果可能超出现有国家竞争框架所能承受的范围。因此，“对冲策略”的出现在博弈论框架下并不意外，即各方试图最大化合作可能带来的收益，同时又通过释放更强硬、更具竞争性的信号，保留转向对抗的能力。

第二个模型在前一模型基础上，为一方增加了“使用奇迹武器”的策略选项。作者设定，AGI驱动的“奇迹武器”一旦投入使用，将为拥有者带来压倒性优势，其收益高于任何其他策略组合，而对手则将遭受最严重损失。

在这一设定下，拥有“奇迹武器”的一方将倾向于在其可用后尽快使用，因为这是其最优策略。具体而言，AI赋能的“奇迹武器”可能表现为一种“先发制人的网络攻击”能力：它不仅能够阻止对手继续发展人工智能能力，还可能主动削弱对手的地缘政治地位。相应地，对手选择合作、自力更生还是破坏，在结果上都变得无关紧要。该设定意在说明，一旦某一方实现AGI垄断，另一方的后续策略空间将被大幅压缩，甚至失去实质意义。

作者认为，这一动态与冷战初期美国拥有核垄断地位的情形存在相似之处，但二者又有重要差别。在核垄断时期，决策者曾讨论是否应利用垄断能力阻止对手达到战略对等。而在AGI场景下，如果“奇迹武器”足够强大，它在原则上可能在不造成核武器式大规模毁灭的情况下，消除对手的报复能力。这意味着，与核武器相比，AGI驱动的“奇迹武器”可能降低首次使用门槛，从而使危机稳定性进一步下降。

由此，作者推断，当一方面临对手即将部署“奇迹武器”的局面时，其理性反应可能是采取先发制人打击。换言之，对处于劣势的一方而言，相互破坏可能仍优于单方面被压制或被迫屈服。正是这种不稳定性，为作者后续引入重复博弈模型提供了动机：在单次博弈中，AGI竞赛已可能走向“破坏—破坏”的低效均衡。而当“奇迹武器”被纳入模型后，竞争逻辑进一步升级，甚至可能产生预防性打击和危机失控的风险。

模型三将前述单次博弈扩展为有限重复博弈。作者设定，前n个阶段仍按照模型一展开，即双方在合作、自力更生和破坏之间作出选择。在第n+1阶段及之后，博弈则转入模型二所描述的“奇迹武器”场景。哪一方最终获得“奇迹武器”，并不是完全随机决定，而是取决于双方在前n个阶段累积收益的概率分配：一方在前期博弈中取得的收益越高，其最终获得“奇迹武器”的概率也越大。

这一设定意在模拟AGI竞赛中存在“先发优势”。由于双方都知道，一旦进入“奇迹武器”阶段，获得者将得到近乎无限的优势收益，另一方则可能陷入不可逆的战略劣势，所以每一方都会在前期阶段尽力提高自己成为“胜者”的概率。由此，有限重复并没有改变模型一中的基本均衡结构。相反，它进一步强化了双方在每个阶段采取破坏行动的动机。最终，模型三中的纳什均衡仍然是：前n个阶段持续“破坏—破坏”，随后由胜者使用“奇迹武器”，而失败方在第n+1阶段的具体策略则变得无关紧要。

尽管从总体收益看，“合作—合作”仍可能带来更优结果，但在这一有限重复框架下，双方更关心的是如何在每个阶段获得相对优势，从而提高最终掌握AGI或“奇迹武器”的概率。换言之，重复博弈并没有自动促成信任积累或合作稳定，反而可能使每一次互动都被纳入终局竞争的计算之中。双方都希望自己成为最终的“胜者”，因此“破坏—破坏”仍是占优策略。

模型四则在模型三基础上进一步加入“失败方先发制人打击”的选项。作者设定，前n个阶段与模型三相同，最终仍根据累积收益决定胜者和失败者。但在第n+1阶段，当胜者准备使用“奇迹武器”时，失败方可以选择发动先发制人打击，以试图抵消或削弱“奇迹武器”带来的压倒性优势。从失败方视角看，先发制人打击具有一定理性基础：如果任由胜者部署“奇迹武器”，自身可能面临单方面被压制甚至丧失反制能力的局面。相比之下，即便先发打击导致双方受损，也可能优于彻底屈服。然而，作者认为，这一机制并不能稳定战略互动。原因在于，无限制冲突本身并不是社会可取结果。同时，如果“奇迹武器”在先发打击之后仍然掌握在胜者手中，那么一次或多次先发打击都难以改变前n个阶段的竞争逻辑，双方仍会持续采取破坏策略以争夺最终优势。

因此，模型四所呈现的均衡结果是：前n个阶段持续“破坏—破坏”，第n+1阶段则演变为“奇迹武器—先发制人打击”。这显然不是社会意义上的理想结果。它表明，在通向AGI的过程中，单纯依靠威慑、破坏和预防性打击，并不能解决竞赛中的不稳定性，反而可能使危机升级风险更加突出。

这一简化模型仍未充分捕捉两方竞速AGI过程中不断累积的其他风险。例如，未对齐AGI可能带来的系统性社会风险，或AGI能力扩散至非国家行为体手中可能引发的安全后果，都难以被前三个竞争性模型充分纳入。正是这些尚未量化、但可能具有严重后果的风险，促使作者进一步构建最终的模型五，以讨论通过合作性防扩散机制走向协作的可能路径。

模型五是文章最具政策含义的部分。作者在前述竞争性博弈基础上，引入了“累积性系统风险”（accumulation of risk）变量，用以刻画AGI竞赛过程中可能不断积累、并最终危及双方的外部性风险。例如，未受保护的AGI模型可能被用于制造社会分裂、利用网络漏洞，或扩散生物武器能力。未对齐AGI或AGI落入非国家行为体手中，也可能造成难以量化但后果严重的安全风险。

在这一模型中，只要任一方在某一阶段选择“破坏”或“自力更生”策略，博弈就会积累一个风险因子。经过n个阶段后，“自然”不仅像前一模型那样根据双方累积收益决定哪一方成为拥有“奇迹武器”的胜者，同时还会决定此前累积的风险是否实现。一旦风险实现，双方都将承受巨大损失。由此，模型五试图把AGI竞赛中的一个关键现实纳入分析：即竞争行为并不只影响相对优势，也会增加共同暴露于灾难性后果之下的概率。

第一种路径是双方在前n个阶段始终选择合作，随后进入“奇迹武器”阶段。在这一情况下，双方获得“奇迹武器”的概率相同，各为二分之一。由于此前没有选择破坏或自力更生，模型中也不会产生风险惩罚。因此，双方的期望收益由前期合作收益与最终阶段可能获得“奇迹武器”的期望收益共同构成。

第二种路径是双方在前n个阶段始终选择破坏。由于双方采取对称策略，最终获得“奇迹武器”的概率仍然各为二分之一。但不同之处在于，连续破坏行为会在此前各阶段不断积累风险，使最终收益面临一项额外的风险惩罚。也就是说，即便破坏策略有助于争夺相对优势，它同时也会提高灾难性后果发生的概率，并在期望收益中体现为重大扣减。

在作者的设定中，合作阶段本身的收益高于破坏阶段的收益。若进一步考虑累积风险带来的惩罚，全程破坏路径的期望收益将低于全程合作路径。更重要的是，随着灾难性后果的规模增大，这一差距会变得更加不可忽视。即使“奇迹武器”可能在最终阶段带来压倒性优势，若此前竞争行为所积累的共同风险足够严重，理性的参与方也必须重新评估继续破坏的代价。

博弈论模型在这里也触及自身解释边界。理论上，如果“奇迹武器”带来的未来收益被视为无限大，那么最终胜者可能仍会忽视第n+1阶段的风险惩罚。但在现实中，灾难性后果并非可以简单抵消的成本。当风险损失大到足以代表双方共同毁灭时，没有理性的参与方会继续把“破坏”作为默认策略。

这一结论与托马斯·谢林（Thomas Schelling）的经典观察相呼应：对灾难性后果的共同脆弱性，会在没有正式协议的情况下创造默契合作的激励。而当共同成本足够巨大时，无论竞争激励多强，冲突本身都会变得非理性。由此，模型五为“合作性防扩散”提供了理论基础：各方并非因为竞争消失而合作，而是因为无约束竞争所带来的共同风险过高，合作反而成为维护自身安全的理性选择。

在单一、透明的收益结构下，AGI竞赛呈现出类似“囚徒困境”的特征：即便合作能够产生更高的集体收益，相互破坏仍可能成为占优策略。作者认为，如果缺乏有意设计的信任建设措施和执行机制，主要AGI参与者将在结构上被推向高摩擦、高对抗的竞争策略，从而减缓整体技术进展，并加剧冲突风险。因此，外交框架和验证机制对于改变激励结构、推动合作至关重要。

AGI驱动的“奇迹武器”等颠覆性能力，将进一步强化先发优势，使先发制人和追求垄断成为理性选择。作者据此主张，AGI政策必须提前应对由能力突然跃升引发的危机场景，包括建立明确的使用规范、划定“红线”，并设置快速沟通渠道，以避免一方接近突破时引发误判和升级。

当失控或扩散的AGI所带来的累积性灾难风险被明确纳入模型后，双方都有激励通过合作避免共同灾难。作者认为，若能使AGI滥用的全球成本变得“可感知且可信地巨大”，合作性防扩散就可能具有自我执行基础：当灾难性后果足够严重时，各方会更倾向于克制而非破坏。这类似于核时代“相互脆弱性”对冲突升级形成的约束效应。

值得注意的是，在模型推导过程中穿插了若干对当前AI竞争现实的观察，这些观察构成其博弈模型的重要经验基础。

第一，关于合作与竞争的现状判断。作者认为，截至2026年初，中美AI竞争并非完全脱钩。尽管双方存在脱钩、竞争和独立发展先进AI模型的政策叙事，但在人才流动、算力出口限制执行、前沿模型权重开放等方面，双方仍存在一定程度的相互依赖。作者将这些现象视为更接近“合作”而非严格脱钩。

第二，关于AGI与核武器类比的局限。AGI竞赛与冷战核竞争虽有相似之处，但也存在重要差异：核武器开发主要由国家主导，而前沿AI开发更多掌握在私营企业手中。AGI竞争的参与方也不止中美两国。此外，AGI驱动的“奇迹武器”在理论上可能以较低毁灭成本消除对手的反制能力，从而降低“首次使用”门槛。

第三，关于模型本身的局限。文中的两方博弈模型无法捕捉所有外生变量，也简化了欧洲、海湾国家、以色列等其他前沿AI参与方的作用。同时，模型也难以充分反映AGI竞速过程中累积的技术风险和社会风险，例如未对齐AGI、能力扩散至非国家行为体等问题。正因如此，文章最终将“共同风险”纳入模型，以说明合作性防扩散的必要性。

https://www.rand.org/pubs/perspectives/PEA4788-1.html