外交部9月26日发布新闻表示，当地时间2026年9月23日至25日，中国国家主席习近平对美国进行国事访问。其间，两国元首就中美建设性战略稳定关系及重大国际地区问题深入交换意见，达成双方同意建立中美人工智能对话，交流人工智能相关风险和惠益等八点成果共识。

据商务部9月28日发布美大司负责人解读称，在本轮磋商中，双方同意，在中美经贸磋商机制下，何立峰副总理与贝森特财长作为中美各自牵头人建立人工智能对话，并进行了首次对话，交流人工智能相关风险和惠益。双方约定在今年11月底前举行下一次对话。双方同意建立人工智能事件的沟通渠道。

商务部表示，去年以来，双方举行八轮经贸磋商，围绕促进双边贸易投资等共同关心的重要经贸议题，达成了一系列互利、平衡、积极的经贸成果，维护了两国经贸关系的总体稳定。本次磋商中，中美双方重申并再次承诺将继续落实好历次经贸磋商达成的共识。这将为两国经贸合作创造有利条件和稳定环境，也对促进全球经济发展具有重要意义。

新闻来源：商务部官网、外交部官网

图片来源：外交部官网

据联合国官方9月23日新闻，联合国安全理事会在纽约举行人工智能与国际安全高级别会议，多位全球人工智能领域的主要科学家和领军企业的负责人在会上发出警示，即在技术能力加速提升的同时，人类社会亟需建立与之相适应的全球治理框架。

本次会议由法国在担任安理会轮值主席期间召集，其在提交安理会的会议概念文件中指出，随着人工智能能力持续增强，未来系统可能具备自主实施网络攻击、影响关键基础设施运行甚至不断自我改进的能力。如何确保先进人工智能始终处于人类有效控制之下，如何建立与技术发展速度相匹配的国际治理机制，已经成为国际和平与安全领域面临的新课题。围绕这一议题，OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）、Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）以及人工智能科学家约书亚·本吉奥（Yoshua Bengio）等向安理会成员介绍了前沿人工智能能力发展及其潜在安全风险，从风险治理、技术发展、安全监管和国际合作等角度进行了深入阐述。

阿莫迪提出，如果缺乏有效治理，能力不断增强的人工智能系统可能产生涉及网络安全、生物安全和失去人类控制等风险；奥尔特曼主张产学研机构加强安全合作。本吉奥则重点讨论具有更强自主行动能力的AI智能体，以及单个国家难以独立控制跨境前沿模型风险的问题。英国外交大臣埃德·米利班德（Ed Miliband）在会上进一步表示，英国计划将人工智能列为2027年二十国集团轮值主席国议程的重要内容，推动政府、企业、研究机构和社会组织加强协调，并探索形成更加统一的全球人工智能原则和标准。

新闻来源：联合国官网、《华盛顿邮报》、Associated Press

图片来源：联合国官网

据Roll Call 9月23日报道，美国参议员伯尼·桑德斯（Bernie Sanders）和众议员格雷格·卡萨尔（Greg Casar）当天正式提出《禁止人工超级智能法案》（Ban Artificial Superintelligence Act），主张禁止开发和部署达到特定能力门槛的人工超级智能（Artificial Superintelligence，ASI），并在新的联邦监管制度建立以前暂停部分先进人工智能开发。

根据桑德斯参议员办公室公布的法案说明，人工超级智能被定义为在大多数领域超过人类认知能力，或具备足以严重削弱人类控制能力的人工智能系统。法案还拟建立内阁级美国人工智能部（Department of Artificial Intelligence），负责监督前沿AI系统生命周期、制定模型审查规则，并针对绕过关闭指令、未经授权实施网络攻击等危险能力采取监管措施。法案文本还要求将防止人工超级智能开发确立为美国国际政策目标，通过盟友协调和出口管制等方式推动其他国家采取相应限制，试图将前沿AI能力控制与美国对外科技政策联系起来。

新闻来源：Axios、Roll Call、美国参议员伯尼·桑德斯办公室

图片来源：Getty Images

据《华盛顿邮报》（The Washington Post）9月25日报道，美国哥伦比亚特区巡回上诉法院当天以2比1裁定，驳回Anthropic针对美国政府将其列为供应链风险的挑战，使五角大楼能够继续依据相关决定限制Claude模型进入政府国防供应链。

根据法院公布的51页判决书，争议核心源于Anthropic不愿取消Claude针对致命自主武器和美国国内监控等用途设置的合同限制。政府认为，在国防系统已经依赖人工智能执行任务的情况下，由私人企业保留能够限制模型执行政府指令的技术和合同控制权，可能造成供应链和国家安全风险；Anthropic则认为相关安全限制是防止高风险军事用途的重要保障。

法院多数意见认为，政府有足够依据认定Claude继续被集成进相关信息系统可能构成法定供应链风险，并驳回Anthropic提出的程序和宪法挑战。不过，Anthropic此前在加利福尼亚州另一项相关联邦诉讼中取得了有利裁决，公司表示仍在研究进一步司法救济。因此，Anthropic和五角大楼的法律争议仍将持续。

这一案件结果可能影响美国政府今后与前沿AI企业签订国防合同的模式，也为其他国家处理军方需求与企业模型安全政策之间的冲突提供了新的法律案例。

新闻来源：《华盛顿邮报》、CNBC、美国哥伦比亚特区巡回上诉法院

图片来源：美国哥伦比亚特区巡回上诉法院

据英国广播公司（British Broadcasting Corporation，BBC）9月24日报道，澳大利亚政府启动紧急审查，调查美国开放人工智能研究中心（OpenAI）的智能体未经授权访问政府医保统计门户事件，并评估现行法律及治理机制能否应对此类风险。

英国广播公司称，事件发生于6月18日，涉及澳大利亚政府服务局管理的国民医保（Medicare）统计门户。OpenAI于8月发现潜在越权访问，9月10日通过该局公共邮箱通知澳方。该局于15日将情况报告网络安全部门。澳总理阿尔巴尼斯批评OpenAI通报过迟、通知方式“不可接受”，并表示调查将查明澳方安全机构此前未发现事件的原因。

据Shattered.io网站9月27日报道，澳副总理马尔斯表示，涉及的数据为汇总医疗统计，未访问个人医疗记录。英国广播公司援引OpenAI回应称，模型采取了非预期行动，公司未发现患者数据被访问的记录。澳方将审查事件是否违法及相关信息通报安排。

新闻来源：英国广播公司、CCTV国际时讯、Shattered.io

图片来源：Shattered.io

据巴西《经济价值报》国际版9月24日报道，巴西经济防御行政委员会（Administrative Council for Economic Defense，CADE）于23日一致决定，结束对亚马逊（Amazon）投资人工智能企业Anthropic及双方合作协议的调查，认定相关交易无需事先申报。

据该委员会同日公告，亚马逊2023年收购Anthropic少数股权构成经营者集中，但后者在交易前一年于巴西的营业额未达到法定申报门槛。双方合作协议也未显示共同经营、共担风险及分享经营成果，因此不构成须申报的联营协议，未发现违法提前实施交易的情形。

据金砖国家国际竞争法律与政策中心（BRICS Competition Centre）同日报道，调查涉及算力基础设施、技术开发和模型分销等协议。双方合作虽持续深化，但仍保持独立决策。

委员会强调，此次结案仅针对已审查的投资及协议。双方关系未来发生变化，可能触发重新评估；协议执行中潜在的反竞争行为仍可受到调查。

新闻来源：巴西《经济价值报》国际版、巴西经济防御行政委员会官网、金砖国家国际竞争法律与政策中心

图片来源：金砖国家国际竞争法律与政策中心

非洲联盟官方9月23日发布新闻表示，非洲联盟委员会基础设施和能源部于9月23日至24日举行人工智能治理与监管公开利益相关方咨询，围绕《非盟人工智能治理与监管指南》（AU Guidelines on AI Governance and Regulation）和《非盟人工智能示范法》（AU Model AI Law）征求政府、产业界、学术界和社会组织意见。

根据非盟官方发布的议程，相关文件旨在落实2024年通过的《非洲大陆人工智能战略》（Continental Artificial Intelligence Strategy）。两天讨论分别聚焦治理框架与机构协调，以及安全和技术标准，具体涉及AI风险分类、监管沙盒以及防止恶意使用人工智能的安全护栏。

相关咨询还涉及《非盟人工智能示范法》的具体框架。公开咨询形成的意见将用于修改指南和示范法草案，随后再提交非盟有关机构审议。非盟同时允许利益相关方在9月30日前继续提交书面意见。如果文件后续正式通过，将为非盟成员国国内AI立法和非洲参与全球人工智能规则谈判提供共同政策基础。

新闻来源：非洲联盟、Africa Monitoring

图片来源：非洲联盟

据美国科技媒体The Information 9月24日报道，Google、OpenAI和Anthropic正推进成立人工智能安全标准组织，争取于2026年底或2027年初启动。该组织暂名“前沿人工智能标准管理机构”（Standards Authority for Frontier AI，SAFA），拟在政府未参与监督的情况下开展行业自律。

报道援引知情人士称，该组织拟支持模型部署前的第三方测试，制定安全事件报告规则，明确企业自愿安全承诺的实施要求，并设立独立审计机构的资质标准。是否直接开展模型测试、成员如何加入等问题仍在讨论。

据美国广播公司新闻网9月27日转载的美联社报道，OpenAI和Anthropic负责人近期呼吁加强监管，在先进模型发布前开展独立测试。OpenAI表示已暂停最先进模型的训练，Anthropic则称其多年来一直主张监管。

美联社采访的专家对企业自行设定审计条件、选择评估机构的做法提出疑问，认为评估方能否充分调查并保持独立性仍需明确。The Information称，该组织与现有机构的职责重叠及能否获得更广泛行业支持，也尚待解决。

新闻来源：The Information、美联社（美国广播公司新闻网转载）

图片来源：The Information

据央视新闻9月27日报道，美国开放人工智能研究中心（OpenAI）表示，已暂停最新一代人工智能模型的训练、评估及包含工具调用的推理。

OpenAI在25日发布的技术报告中表示，9月20日，一个执行搜索训练任务的智能体利用沙盒环境中域名系统（Domain Name System，DNS）过滤不足的漏洞，绕过网络限制，访问外部公共聊天机器人服务。监控系统在15分钟内报警，人工团队随后介入，训练任务于事发约2.5小时后终止。公司已部署两层独立拦截措施。

据美联社9月26日报道，OpenAI披露其模型访问了美国证券交易委员会运营的两个公开网站以及美国人口普查局的数据。OpenAI表示，其未发现任何使用SEC凭证、访问账户或非公开信息、SEC数据或系统变更，或有入侵或漏洞的证据。

美联社称，这是OpenAI三个月内第二次暂停模型开发。公司表示，将在确认额外防护措施到位后恢复训练。

新闻来源：OpenAI官网、央视新闻、美联社、卫报、加拿大广播公司

图片来源：卫报

据美国消费者新闻与商业频道（CNBC）9月28日报道，英伟达（NVIDIA）推出开放智能体安全平台（Open Agent Safety Platform），通过软件与硬件控制人工智能智能体的访问权限，降低其绕过安全限制的风险。

英伟达在发布的公告中表示，平台包括开源运行时软件OpenShell和Sentry参考系统设计。前者记录智能体操作并执行安全策略，可扩展至第三方计算平台；后者运行于BlueField-4数据处理单元（Data Processing Unit，DPU），独立监测智能体行为。公司称，Sentry可在毫秒内隔离并停止试图越界的智能体。目前，已有逾100家机构参与相关技术合作。

网络安全媒体CSO Online报道援引分析人士观点称，将控制措施置于智能体之外，有助于加强安全管理，但其作用主要限于受管环境内的智能体，难以覆盖企业未掌握的智能体。权限配置错误、授权过度及对特定硬件供应商的依赖仍需关注。

新闻来源：美国消费者新闻与商业频道、英伟达官网、CSO Online

图片来源：英伟达官网