人工智能（AI）正以前所未有的速度渗透到军事领域的各个角落。从网络防御到武器系统，从情报分析到指挥决策，AI的身影无处不在。然而，这种技术的广泛应用也带来了前所未有的风险。2024年，中美两国领导人就确保核武器始终处于人类控制之下达成共识。今年5月，两国元首又提出建设性战略稳定关系，军事人工智能治理显然应该包含在内。然而，这些政治宣言仍不足以防止AI失控、滥用和冲突升级。中美两国应当探讨如何将原则共识转化为可操作的制度安排，同时识别出当前面临的现实困境。在未来的军事人工智能对话中，还应当纳入管控致命性自主武器系统（LAWS）等更加广泛的议题。

中美两国无论在现有的联合声明还是各自的政策主张中都反复强调确保“人类控制”原则。Melanie的文章进一步提出“对核指挥系统和关键基础设施发动网络攻击的决策权只能由人类掌握”。然而，为了避免这些宣言流于形式，中美两国必须在三方面建立务实的合作机制。一是建立军事AI红线清单。明确禁止AI自主发起对NC3系统的攻击以及AI自主决定核武器的使用。同时探讨关键基础设施清单（如金融、医疗、能源等），明确红线的边界范围。

二是就什么是“有意义的人类控制”达成共识。1970年代博依德就提出了著名的OODA理论。后来人们讨论“人在环路”“人类控制”都是在这一理论基础之上。然而在博依德之前，周恩来总理就对中国的核试验工作做出“万无一失”的指示要求。在中国专家和从业者看来，这一指示延续至今，包含了“人类控制”原则。由于双方截然不同的体制机制和战略文化，哪怕对待同一问题也可能使用不同的表述，采取不一样的做法。中美需要通过定期对话或是设立术语工作组的方式来确保彼此接受对方关于“有意义的人类控制”的定义以及相关保障机制。

三是增设中美军事人工智能热线。在现有中美军事沟通机制（如国防部长热线、海上军事安全磋商机制）基础上，增设由于人工智能错误触发或人工智能网络攻击导致的紧急事件通报渠道。目的是降低由于AI故障误导人类甚至僭越人类而导致危机升级的连锁反应风险。

与此同时，双方无需回避地缘政治博弈和技术快速迭代正在加剧安全困境。即便中美就“人类控制”达成合作机制，在现实中仍会面临至少三方面挑战。一是速度困境。在智能体的帮助下，网络攻击正以史无前例的速度展开。AI驱动的防御系统可能自动触发反制措施。设想一次AI检测到NC3系统遭受异常流量攻击可能导致防御AI自动切断网络或启动反制措施。其结果导致对方误判为网络入侵，最终使双方AI系统进入自动对抗模式。AI赋能的网络攻击在毫秒级就能完成。在这种超高速对抗中，人类最终决定很可能超出了生理极限。

二是溯源困境。网络攻击的溯源极其困难。一次对关键基础设施的攻击，可能是国家行为，也可能是黑客组织、恐怖分子等非国家行为体，甚至是AI自主行为。如果关键基础设施遭到AI驱动的网络攻击，如何判断是政府授权攻击还是非国家行为体滥用AI甚至嫁祸于国家行为体从而挑起冲突？如果没有可靠的溯源机制，人类责任就无法落实，报复行动更可能引发错误升级。

三是安全困境。相比传统军事技术，人工智能技术的不透明导致无法准确评估对手AI技术到底发展到什么程度，对军事作战效能的提升效果到底有多大，也无法区分某项军用AI技术到底是进攻性还是防御性的措施。作为一项系统性工程，人工智能的军事应用效果还受到与各个子系统的软硬件耦合、人机协同、军事体制机制以及战略文化等因素的影响。这需要一个较为漫长和复杂的评估过程。结果导致双方经常基于最糟糕的情况来想象对手的AI部署并采取争锋相对的措施。威胁可能被严重夸大，敌意螺旋不断上升。

这些困境在一段时期内难以被彻底消除，只能通过不断加强对话和护栏加以管控。然而，网络攻击只是中美军事AI风险的冰山一角，还有许多重要的议题应当被纳入到两军对话当中。其中，致命性自主武器系统（LAWS）亟待管控。在俄乌战场和中东，自主武器系统的广泛应用已经导致严重的平民伤亡，甚至增加核升级的风险。LAWS一旦落入非国家行为体手中造成的安全风险极大。在联合国《特定常规武器公约》（CCW）就LAWS谈判取得初步进展的情况下，中美应当就禁止完全自主的致命攻击和“确保人类控制”寻找最小共识，并围绕如何防止LAWS扩散和被非国家行为体滥用开展对话与合作。在中美关系历史上多次发生由无人载具或装备引发的意外事件。这些装备大多部署在热点地区，一旦与人工智能及进攻性军事能力相结合，很可能引发出乎意料的危机升级。双方还应尽快探讨自主武器系统危机管控和处置预案，共同维护地区和全球战略稳定。

军事AI的治理不是一场可以等待的谈判，而是一场与时间的赛跑。在机器逐渐抢夺“开火权”甚至“交战权”的背景下，中美作为两个AI超级大国，肩负着不让技术失控和守护人类文明的历史责任。期待中美两国元首在9月的会晤中能够延续开展AI对话的积极势头，为全球军事人工智能治理做出表率。