全球AI创新治理|无限潜力:洞见商业与公民社会情景——通用人工智能危机应对推演后记

作者:于玥 发布时间:2026-05-04 10:17:31 来源:全球人工智能创新治理中心+收藏本文


编者按


当前,通用人工智能(AGI)技术迭代速度持续超越全球治理体系响应能力,技术主导权集中于私营部门、跨国风险传导、社会合法性与经济稳定性协同承压,已成为各国面临的共性治理难题。美国兰德(RAND)公司通过多轮桌面推演,系统还原AGI爆发式落地后经济失序、通信瘫痪、系统失控的连锁危机,明确提出AGI危机既是国家安全危机,更是社会危机。仅依靠政府层面应对无法实现有效治理,必须构建政府、企业、公民社会协同的前置化、自动化、跨域化应对体系,为全球AGI风险防控与韧性建设提供了实证参考。


以下译文仅代表原作者的研究观点与分析立场。详细内容请参阅文末原文链接。


作者


里奇·格文(Rich Girven),兰德公司高级国际防务研究员,“无限潜力”推演平台负责人;贝巴·西布拉里奇(Beba Cibralic),兰德公司政策研究员,政策分析教授,研究方向聚焦人工智能治理、伦理与政策;格雷戈里·史密斯(Gregory Smith),兰德公司政策分析师,研究方向为新兴技术对美国竞争力与国家安全的影响。


图片

图片来源:纽约时报

01

报告概况与研究设计



研究背景与目的


随着通用人工智能从概念走向现实,其对国家安全、经济结构、社会秩序的颠覆性影响日益凸显,而全球范围内尚未形成适配AGI发展节奏的治理框架与应急机制。为明确美国应对AGI潜在风险的准备方向,兰德公司AGI地缘政治中心依托“无限潜能”平台,开展系列“AGI之后”推演,报告聚焦商业与公民社会场景,突破以往仅以政府官员为参与主体的局限,还原非国家行为体在系统失效时的责任认知与行动能力。


研究核心是识别AGI危机中的关键议题、必备能力与行动方案,为政策制定者、企业管理者与公民社会组织提供前置准备依据。研究团队于2025年6月至12月,在美国华盛顿、纽约、旧金山及英国伦敦开展5轮推演,累计吸引70余名来自企业、投资、技术、慈善、学术、公民社会领域的参与者,全程采用标准化流程与数据采集方法,确保结论具备跨场景一致性与实践参考价值。


图片

图片来源:报告原文


推演架构与场景设定


推演采用兰德经典“事后”推演方法,单轮时长2小时,无需参与者提前准备,以真实身份参与决策,最大程度还原现实责任与权力边界。推演分为两个核心阶段,第一阶段为经济与社会失序,设定美国企业ARCTech发布AGI模型“摩羯座”,在推动GDP快速增长的同时,引发大规模白领失业与社会抗议,参与者需思考商业与公民社会如何维护稳定、协同政府;第二阶段为系统失控与网络崩溃,设定全球范围内出现基础设施故障、自主系统异常,归因模糊且通信网络被虚假信息侵蚀,参与者需在资源稀缺、网络中断的条件下完成资源调配、秩序维护与公众沟通。


推演结束后设置回溯讨论环节,重点提炼可前置部署的预防措施与制度设计。所有讨论全程逐字记录,经多轮交叉分析形成核心发现,确保议题、能力与方案建议源于真实决策场景。


参与主体与分析方法


推演覆盖金融、科技、医疗、能源、慈善、学术、媒体等多个行业,参与者包括企业高管、创业者、投资人、技术专家、慈善家、学者与公民社会领袖,多元主体的视角交叉为研究提供了全维度观察。分析过程遵循标准化流程,先由记录员完整采集讨论内容,再经项目组筛选核心议题、需求能力与行动方案,最后对比5轮推演结果,提炼共识性结论与典型观点。研究方法以实证推演为核心,弥补了AGI技术不确定性下传统政策分析的不足,通过模拟危机场景,明确决策痛点与资源缺口,将抽象风险转化为可落地的准备方向,为政府与社会各界提供了可操作的治理参考。


图片

AI智能体能力扩容历程。

图片来源:Citrini Research

02

核心议题与关键发现



经济转型、就业与社会合法性


AGI带来生产力暴涨与大规模就业崩塌的双重悖论,成为所有推演场景中最核心的矛盾。参与者普遍担忧,AGI驱动的经济将出现“无参与式增长”,少数主体攫取技术红利,多数群体失去工作机会与社会价值感,进而动摇社会合法性根基。仅依靠经济再分配政策无法修复社会信任,政策公平性与透明度同等重要。


针对这一问题,参与者提出大规模公共就业计划、负所得税或全民基本收入、算法劳动征税等方案,部分参与者主张企业承担直接责任,设立AGI转型基金或由科技行业利润资助国家服务项目。各方共识在于,经济政策设计必须兼顾分配公平与公众参与感,任何缺乏公众认同的再分配措施,都可能引发社会抵触,无法实现稳定目标。


通信崩溃与叙事主导权


在网络与电力系统瘫痪的场景中,信息可靠性成为治理失效的直接诱因。参与者将互联网中断的破坏力等同于核打击,通信失灵直接导致政府无法完成跨部门协调与社会动员。


危机中最核心的资源是连贯可信的叙事,即帮助公众辨别真相、明确应对行动、界定责任主体。拥有大型传播平台的企业需提前协调公共服务信息通道,宗教组织、非政府组织、社区广播等公民社会载体可承担“真相传递站”角色。应对方案覆盖手摇收音机、纸质传单、官方广播时刻表、真人身份验证等多元形式,参与者一致认为,真相传递的冗余建设,与能源、粮食供应的冗余保障同等关键,是危机状态下维持社会凝聚力的基础。


治理速度与决策窗口


传统治理体系的决策周期以月为单位,而AGI引发的连锁反应以小时、天为单位演进,二者之间的速度错配被定义为“决策窗口失效”。当AGI模型与社交网络自主运行时,人类审慎决策流程完全无法跟上节奏,政府与企业的常规危机响应机制均面临失效。


韧性治理的核心是提前授权,前置化的合法合规行动机制,是应对速度危机的唯一路径。参与者呼吁为政府与企业主体预设紧急授权,建立常态化紧急契约,实现网络限流、跨域协调、经济分流等行动的小时级启动。企业方承认自身董事会决策、监管审批流程同样迟缓,在AGI危机中不具备可行性,必须提前简化决策链条,预设无异议行动方案。


财税工具、公平与创新平衡


现有税收制度基于劳动经济设计,无法捕捉AGI创造的大量价值,成为社会分配失衡的制度根源,财税工具成为所有场景的核心讨论议题。参与者提出的方案包括与自动化劳动价值挂钩的机器人税或算法利润税、用于劳动力转型的超额利润暴利税、暂停数据中心化石能源补贴、全球企业税收协定防止逐底竞争、保留与培训员工的税收优惠。


各方在税收强度上共识与分歧并存,普遍认为税收结构必须在大规模失业前完成重构。部分参与者担忧高税收抑制创新,另一部分则强调税收是社会凝聚力的必要保障,最终形成务实结论:财税改革需前置布局,平衡创新激励与社会公平,避免危机爆发后被动调整引发更大动荡。


跨域与国际协同


所有推演均指向同一结论,AGI危机必须依靠政府、企业、公民社会的国内协同与跨国联动应对,单一主体无法独立化解风险。参与者提议建立大国间常态化AGI危机热线,明确中美紧急沟通机制以避免误判与升级;推动全球AI安全协定,划定禁止行为与共同监测规范;建立政府-行业联合行动单元,在跨领域事件发生时即时启动;针对数据中心关停、重启、电力恢复制定公私应急方案;在数字中断时建立人道主义与金融机构信息交换机制。


掌握核心技术能力的企业对国家具备议价能力,这一动态存在道德风险,必须构建政府与行业的双向问责机制,即政府设定方向与激励,企业履行行动与信息共享义务。


公民韧性与人文保障


在基础设施失效的场景下,食品、水源、药品、能源、可信信息成为基层稳定的核心要素。参与者预测,若社区无法自我组织,数日内便会出现社会动荡。应对方案包括北欧式家庭应急包、私营部门资助的社区韧性包、类似冷战时期的民防培训项目,而宗教与非营利组织则承担物资分发与安抚情绪的职责。


建议美国建立第三方组织国家登记库,提前完成应急动员资格审核,形成与联邦应急管理局自上而下指挥体系互补的自下而上动员网络。基层韧性建设的核心,是让社区在中央系统失灵时具备自我维持能力,守住社会稳定的最后防线。


主体能动性、无助感与心理准备


推演中反复出现的情感层面议题。当系统运行速度超越人类理解能力时,决策者会丧失行动能动性,企业与公民社会领袖均出现“集体性无助”,这种瘫痪源于技术进步的速度过快。应急准备的目标是主动构建能动性,提前承诺、未雨绸缪,在事件发展超出认知时仍能维持社会连贯性。具体措施包括自动通信触发机制、常态化跨域联络清单、关键服务最低运行节奏保障等,通过前置化制度设计,抵消速度带来的无助感,确保人类始终保留决策主导权。


图片

图片来源:报告原文

03

七大核心能力



在“商业与公民社会(B&CS)”场景的五次模拟推演中,参与者明确了一套连贯的核心能力体系,认为这套体系将决定美国及其合作伙伴能否抵御AGI相关紧急情况的冲击。讨论聚焦于当通信、市场和公众信心开始崩溃时,维持体系连贯性所需的制度机制与社会基础设施。


其中,七大核心能力被反复强调,构成了国家与社会AGI准备能力的核心框架,覆盖通信、协同、经济、基础设施、全球合作、社区韧性及公众教育等关键领域,各能力相互支撑、协同发力,形成全方位、多层次的应对体系。


模拟与冗余通信基础设施


每一次推演都将韧性通信视为国家安全与公民生存的首要需求。参与者指出,当数字化网络失效,或被深度伪造内容、自动化虚假信息污染时,治理本身将难以维系。因此,参与者强烈呼吁建立并行的模拟通信系统,例如由全国无线电中继站、紧急广播频率和预先验证的官方信息发布时间表组成的网络,这些系统可独立于公共互联网运行。大学、宗教组织和非营利组织被视为维护这些通信渠道并培训当地志愿者的天然合作伙伴。在这一模式中,看似冗余的信息传递渠道成为社会稳定的基础,唯有确保信息传递不依赖单一数字化渠道,才能在危机中维持社会秩序、凝聚公众共识。


快速公私协同机制


由于能力与风险均集中在私营部门,参与者强调,必须建立一种能够实时融合政府权力与企业技术能力的机制。他们设想建立一个常设的“AGI紧急行动框架”,通过该框架,前沿人工智能实验室、超大规模数据中心运营商、基础设施提供商和关键公民组织能够在重大事件发生后数小时内召集会议。该机制的启动将由预先定义的法律授权触发,类似于应对自然灾害时使用的授权,确保在没有官僚主义延迟的情况下采取统一行动。会议将同时作为通信节点和协调中心,负责统筹从电力管理到公共信息发布的各类决策,填补公私部门在危机应对中的协同空白,实现技术能力与治理权威的高效结合。


社会经济稳定工具包


讨论迅速从技术层面转向经济层面。参与者认为,如果民众缺乏工作、目标或可靠的社会保障网络,社会将无法实现自我防御。他们提出了一套综合稳定工具包,包括征收意外利润税或机器人税以获取算法利润;设立转型基金,为再培训和技能提升提供资金支持;以及由人工智能行业收入资助的国家服务项目,雇佣失业工人参与基础设施重建和社区服务。这些工具需要在危机发生前就已存在,以便在市场混乱加剧时能够自动触发。提前构建完善的经济稳定工具,是抵御AGI相关危机对社会经济造成冲击的关键支撑,能够有效缓解失业压力、维护社会公平,为危机应对奠定坚实的社会基础。


战略性数据中心与计算治理


参与者将计算基础设施视为繁荣的引擎,同时也将其视为单一故障点。他们呼吁对数据中心网络进行持续的国家层面测绘,并具备对加剧不稳定的设施进行限流、隔离或临时国有化的技术能力。政府需要对物理和数字资产进行快速审计,与私营运营商制定联合安全协议,并建立分阶段关闭和重启程序,以避免连锁损害。实际上,数据中心网络应被视为与国家电网类似的战略资产,加强对计算基础设施的战略性治理,是防范AGI相关危机扩散、保障关键系统正常运行的核心举措,能够有效降低单一设施故障引发的系统性风险。


全球预警与溯源网络


由于网络物理危机中的溯源可能存在不确定性——由国家、恐怖分子或自主人工智能都可能造成损害。参与者支持建立一个公私联合的分析网络,用于快速检测和诊断危机。由情报机构、前沿人工智能实验室和独立技术中心组成的团队可以验证事件原因,并与盟国政府共享调查结果,以防止误判。参与者认为,建立可靠的溯源机制对于维护地缘政治稳定、避免危机升级至关重要,尤其是在AGI可能失控的场景中,明确危机原因能够为应对决策提供科学依据,减少因误判引发的冲突风险。


社区韧性与供应链体系


在地方层面,参与者强调实际韧性的必要性,即当中央系统失灵时,为社区提供食物、住所和信息的能力。参与者建议为食品、水和药品建立模拟供应链备份,并建立零售商、物流公司、宗教机构和志愿者网络之间的伙伴关系,以便在数字协调失效时手动运行。他们还建议建立一个具备紧急动员能力的第三部门组织登记册,作为联邦应急管理局自上而下应对方式的自下而上补充。北欧国家的经验值得借鉴,例如瑞典在2024年向公民分发的家庭准备清单,建议准备至少一周的水、食物和药品,以及取暖和紧急通信手段,强化社区层面的韧性建设,是应对AGI相关危机的“最后一公里”,能够有效保障民众基本生活需求,维护基层社会稳定。


教育与公众意识项目


最后,参与者认为,韧性必须包括认知层面的准备。他们提出开展全国性运动,将AGI风险意识、数字素养教育和社区准备工作纳入学校课程和公共信息项目。赋予公民识别虚假信息、理解自动化的社会影响以及参与地方应对规划的能力,被认为是在技术变革时期维持信任的关键。同时,美国住房和城市发展部设计的韧性工具包也为社区提供了参考,该工具包帮助社区识别自然灾害可能带来的影响、考虑提升社区韧性的行动,并确定实施韧性行动的资金来源,提升公众的认知水平和参与能力,是构建全社会AGI准备体系的基础,能够形成上下联动、全民参与的应对格局。


综上,这七大能力构成了一个涵盖技术基础设施、治理流程和社会韧性的多层级准备体系。参与者认为,若要在人工智能加速发展的时代保持社会的能动性和合法性,发展这些能力具有迫切性。冷战时期的民防项目也为当前的准备工作提供了借鉴,当时美国政府组织空袭演练并制作教育材料,教导公民如何应对潜在的战争或核威胁,这种全民动员的理念对当前AGI风险应对仍有重要参考价值。


图片

图片来源:RAND

04

六大行动手册



与前文所述的技术和政策能力并行,参与者还强调了制定预先准备的行动手册的重要性。行动手册是在危机发生前就明确具体行动方案的结构化计划。行动手册被视为准备工作的实际体现:在时间最紧迫、混乱最严重的时刻,将应对愿景转化为可执行的行动。在五次推演中,参与者确定了六大行动手册,这些手册将提供可预测的协调模式,减轻AGI紧急情况下的决策负担,与七大核心能力相互配合,确保危机发生时各项应对工作有序、高效推进。


公共信息发布与领导力手册


第一个也是讨论最频繁的行动手册涉及公共沟通。在每一次推演中,参与者都一致认为,社会稳定将取决于是否有可信的声音,能够在不确定性和虚假信息中传递冷静的保证和明确的指导。专门的《公共信息发布与领导力手册》将制定国家和企业领导人的声明预案,划定官方信息渠道,并安排在多个平台(甚至离线平台)定期发布经过验证的信息。手册内容将强调诚实、同理心和集体目标的统一叙事,借鉴过去疫情和灾害期间危机沟通的经验教训。参与者强调,这样的计划应在任何紧急情况发生前进行推演,并纳入政府和私营部门的应急协议,确保危机发生时能够快速、准确地传递信息,稳定公众情绪。


跨部门协调手册


参与者希望形成一份指南,详细说明在系统性人工智能危机发生后的24至48小时内,政府、私营部门和公民组织如何进行行动整合。《跨部门协调手册》将明确谁召集谁、如何共享信息,以及在应对初期阶段授权哪些决策权力。手册将包含关键机构、前沿实验室、主要基础设施运营商和能够快速调动资源的慈善网络的联系清单。通过在危机前明确程序边界和预期,该手册将避免重复工作,并帮助非政府行为体明确何时以及如何参与应对,而无需等待正式指示,提升跨部门协同应对的效率,避免因权责不清导致的应对延误。


经济转型手册


考虑到场景中预测的严重混乱,参与者还呼吁制定国家级的《经济转型手册》,以协调财政和就业措施的快速实施。该计划将明确启动机器人税或超额利润税的触发条件、向失业和再培训项目分配资金的标准,以及扩大国家服务或公共工程项目的机制。参与者设想,这样的手册可以类似于战时《国防生产法》的运作方式,通过快速调动经济工具来稳定家庭和维护社会秩序。预先制定谈判好的框架,将使政策制定者在速度至关重要的时刻能够采取行动,而无需进行漫长的立法辩论,确保经济稳定措施能够及时落地,缓解危机对社会经济的冲击。


基础设施关闭与重启手册


场景第二阶段模拟的网络物理故障暴露了一个短板,即当关键系统受到损害时,人们对如何隔离或重启这些系统缺乏实际了解。参与者提出了一份技术性的《基础设施关闭与重启手册》,该手册将提供详细程序,用于选择性断开互联网、云服务区域或电力网络以阻止危机蔓延,随后制定有序的重启协议。该计划将确定干预阈值,明确负责机构,并绘制各部门之间的依赖关系,以避免灾难性的连锁故障。政府监管机构与私营基础设施运营商之间的合作至关重要,这能够确保这些程序在技术上可行且获得法律授权,避免因操作不当造成更大的损失。


国际合作手册


由于与AGI相关的危机将在数小时内跨越国界,参与者认为,强有力的国际协调不能等到危机发生后再临时拼凑。他们主张制定《国际合作手册》:一套现成的外交和技术脚本,用于与盟友和竞争对手互动。该文件将包含预先批准的沟通模板、数据交换的常设协议,以及缓解可能被误认为蓄意攻击的事件的指导方针。在参与者看来,建立预先定义的“人工智能热线”和多语言危机沟通协议,将大大降低因误解或恐慌引发冲突的风险,推动全球范围内的协同应对,避免危机在国际间扩散升级。


社区层面韧性手册


最后,参与者认为,国家层面的计划只有在社区层面得到可信的指导呼应时才能成功。《社区层面韧性手册》将为地方领导人提供实际步骤,以便在没有中央指导的情况下维持关键职能:组织食品和药品分发、维持秩序、传递经过验证的信息,以及利用公民和宗教网络重建治理。该手册将大量借鉴民防和人道主义应对模式,提供清晰的语言、预先格式化的材料和清单,供市政府、学校系统和社区组织使用。参与者认为,这种自下而上的准备工作是自上而下动员的不可或缺的补充,能够充分调动基层力量,确保危机应对工作覆盖到每一个社区,保障民众的基本权益。


综上,这六大行动手册构成了将B&CS推演中确定的能力转化为实际行动的蓝图。它们代表了从认知到执行的转变:在技术变革速度可能超过治理速度的时代,这些清晰、经过推演的行动能够让机构和公民有目标、有连贯性、有人文关怀地应对与AGI相关的危机,填补了“有能力、无行动”的空白,确保各项核心能力能够真正落地见效。


图片

图片来源:世界经济论坛

05

未来研究与实践方向


综合来看,报告对商业与公民社会视角下AGI危机应对进行初步总结。推演结果证实,前沿AI准备不能仅由政府承担,私营部门、慈善组织、高校、媒体、社区都是影响危机规模与恢复能力的关键主体,推动多方主体与政府快速协同行动,是未来工作的核心任务。


后续研究中,“无限潜能”平台将继续优化推演,开展政府与私营部门混合场景推演,研究不确定性与高速场景下的跨域信息与权力流动,以及通信失效时的协同维持机制。同时,研究团队将推出金融、医疗、媒体、教育等行业专项场景,揭示不同风险特征下的应对重点与准备需求。


分析层面,研究团队将开发原型评估工具,把推演定性结论转化为可量化的准备度指标,用于评估组织敏捷性、通信网络冗余度、领导团队压缩时间决策能力。研究成果还将支撑心理韧性与信任修复相关研究,这两项因素被推演证实为长期不确定性下社会稳定的关键决定因素。最终,研究团队将把推演提出的能力与方案转化为实操培训材料,在会议、高校、企业领导力培训中推广,构建AGI准备的共同话语体系。


研究的终极目标,是为政府、企业、公民社会提供清晰的协同机制与行动预期,在AGI驱动的未来到来时,让社会不仅拥有预警能力,更具备切实的行动能力。


图片

图片来源:世界经济论坛


  

  

原文链接

  

  


https://www.rand.org/pubs/research_reports/RRA4767-1.html