全球AI治理新闻No.45丨2026.09.07-2026.09.14

作者:王奕博、栗子宜 发布时间:2026-09-17 来源:全球人工智能创新治理中心+收藏本文

中国提出人工智能开源普惠倡议





图片


据新华社、人民日报等多家媒体报道,当地时间9月13日上午,中国国家主席习近平在新德里出席金砖国家第十八次会晤第二阶段会议,并发表题为《筑牢金砖合作根基 壮大全球南方力量》的重要讲话(以下简称为“讲话”)。


习近平主席就深化金砖合作提出五项倡议。一是人工智能开源普惠倡议。二是贸易投资便利化倡议。三是数字产业合作倡议。四是智能制造合作倡议。五是科技育才倡议。


关于人工智能开源普惠倡议,习近平主席表示,中方将率先建设金砖国家人工智能开源专区,支持大语言模型开发和应用合作,开展人工智能专题研修培训,构建人工智能开放生态。


据中国外交部报道,外交部长王毅向随行记者介绍此访情况时表示,支持全球南方团结自强,中国不仅有高瞻远瞩的理念,更有实实在在的举措。聚焦新一轮科技革命和产业变革,习近平主席提出金砖国家人工智能赋能新型工业化、人工智能开源普惠、数字产业合作、智能制造合作等倡议,宣布中方将率先建设金砖国家人工智能开源专区、建立金砖国家数字产业云平台、实施金砖国家青年科创交流计划等多项务实合作举措,受到各国热烈欢迎。从全球人工智能治理倡议到成立世界人工智能合作组织,中国始终秉持开源开放、包容普惠的理念,致力于帮助全球南方国家提升能力、平等受益,避免在人工智能领域造成新的历史不公,让新兴技术照亮共同繁荣之路。国际舆论认为,中国作为人工智能大国,不谋求数字霸权,不搞技术封锁,而是愿将先进技术转化为公共产品,在决定未来的前沿赛道为发展中国家创造机遇,体现了中国特有的博大胸襟和天下情怀。



新闻来源:中华人民共和国外交部、新华社、人民日报

图片来源:中华人民共和国外交部


中国回应美国指责中企“蒸馏”美国模型





图片


9月8日,美国国家安全局(the National Security Agency,NSA)、美国联邦调查局(Federal Bureau of Investigation,FBI)以及网络安全与基础设施安全局(Cybersecurity and Infrastructure Security Agency,CISA)联合发布网络安全通告(Cybersecurity Advisory,CSA),声称总部位于中国的人工智能(AI)公司以训练自己的模型为目的,正积极开展工业规模的蒸馏活动,系统性地提取美国前沿AI模型的受限专有功能和能力。


9月9日,中国外交部和商务部回应美国指责中国人工智能企业“蒸馏”模型。


中国外交部发言人毛宁在例行记者会上明确回应,中国人工智能的发展是高水平科技自立自强的成果,也得益于中方始终秉持共商共建共享和开放合作理念。并进一步表示,中方始终认为各国应推动人工智能开放、包容、普惠、向善发展,服务全人类福祉。希望美方认真落实两国元首达成的重要共识,不要对中国进行不实指责和抹黑。中美都是人工智能大国,应当加强合作。


中国商务部发言人在“就美发布中国人工智能企业对美蒸馏活动相关网络安全公告答记者问”上明确表示,美方所谓中国人工智能企业从事“工业规模”蒸馏美模型的指控“于事无凭,于法无据”,批评美方将蒸馏这一业内正常的技术和商业问题政治化、工具化,并在实践中搞双重标准。商务部指出,蒸馏是人工智能领域各个模型间相互学习的通行做法,本质上是一种中性技术手段,包括美国企业在内的全球模型企业均在使用。


商务部进一步表示,人工智能蒸馏技术能够帮助模型提升学习效率,实现人类知识更加高效的利用,对于各国发展人工智能产业、释放人工智能技术潜力、弥补发展鸿沟具有积极意义。中方认为,美方将正常的技术手段与所谓“工业规模窃取”相联系,实质上是借人工智能安全和知识产权问题打压竞争。此前7月27日,商务部也曾针对美国拟以所谓“蒸馏”调查、制裁中国人工智能企业作出回应,指出有关做法缺乏事实依据和法理支撑,属于人工智能霸权主义行径。



新闻来源:中华人民共和国外交部、中华人民共和国商务部、美国国家安全局、路透社

图片来源:中华人民共和国商务部


中国发布《人工智能安全治理框架3.0》





图片


9月14日,在2026年国家网络安全宣传周开幕式上,全国网络安全标准化技术委员会(以下简称“网安标委”)发布《人工智能安全治理框架3.0》(以下简称《框架3.0》)。


2023年10月18日,‌中国提出《全球人工智能治理倡议》,强调“在世界和平与发展面临多元挑战的背景下,各国应秉持共同、综合、合作、可持续的安全观,坚持发展和安全并重的原则,通过对话与合作凝聚共识,构建开放、公正、有效的治理机制,促进人工智能技术造福于人类,推动构建人类命运共同体。”2024年、2025年中国网安标委先后发布了《人工智能安全治理框架1.0》《人工智能安全治理框架2.0》,就人工智能安全治理提出中国方案。


为应对人工智能发展新趋势、回应安全治理新挑战,在国家互联网信息办公室的指导下,网安标委组织中国网络空间研究院、国家互联网信息办公室数据与技术保障中心等专业机构、科研院所、行业企业,研究编制了《框架3.0》。


《框架3.0》秉持以人为本、向上向善理念,坚持和践行强化风险意识、确保安全可控的指导原则,延续“风险分类、技术应对、综合治理”的核心逻辑,与时俱进梳理更新了风险分类,优化调整了技术应对和综合治理措施,以促进提升人工智能安全治理共识和风险防范应对能力,确保人工智能技术造福于人类。



新闻来源:中华人民共和国国家互联网信息办公室、中国网络安全标准化技术委员会、新华网、人民网

图片来源:新华网


Anthropic首席执行官呼吁放缓AI发展





图片


9月12日,Anthropic首席执行官达里奥・阿莫迪(Dario Amodei)在个人博客发布长文《我们必须控制前沿(AI)发展节奏》(We Must Pace the Frontier),呼吁行业放慢前沿大模型能力迭代速度,让AI安全对齐研究跟上技术进步节奏。


阿莫迪认为,AI正在越来越多地参与AI自身的研发,研究人员已经大量使用模型写代码、运行实验和分析结果,更强的模型又可以帮助开发下一代模型,从而形成不断加速的循环。这种循环有可能产生安全事故,带来严重的网络安全风险。阿莫迪提出分三步走的AI管控框架:第一步,前沿AI实验室引入驻场第三方独立评估人员,给予其接近内部员工的系统访问权限,核查安全措施;第二步,推动所谓“民主国家”头部AI企业统一安全标准,对模型能力提升节奏进行协同约束;第三步,尝试开展全球层面的协调谈判。


同时,阿莫迪强调与中国开展合作需保持高度警惕,在开展国际谈判共同减速之前,西方国家需要先通过技术壁垒拉开对中国的AI领先差距,他列出三大具体限制和遏制措施:严禁向中国出售高性能AI芯片和半导体制造设备、打击所谓模型“蒸馏”行为以及防止大模型的核心权重被窃取或通过黑客手段外泄。他认为落实上述举措,美国有望在未来35年关键窗口期内扩大技术优势,再以此为筹码进行后续的全球协商。


该倡议得到OpenAI首席执行官萨姆・奥尔特曼(Sam Altman)、xAI创始人埃隆・马斯克(Elon Musk)的支持。但美国国内也出现不同声音。美国总统特朗普在社交媒体平台对“AI限速论”进行驳斥,他表示AI唯一需要的“护栏”是一位强大而聪明的总统。与此同时,特朗普重申了美国在人工智能竞赛中保持世界领先的重要性。不仅如此,“All-In Summit”峰会期间,英伟达创始人黄仁勋以免提方式接听了特朗普的电话。在通话过程中,特朗普重申此前观点,对此黄仁勋表示赞同,认为美国可以在确保安全的同时保持AI领先。


新闻来源:达里奥・阿莫迪个人博客、英国卫报、英国广播公司(BBC)、X、真相社交、路透社、美国有线电视新闻网

图片来源:英国广播公司(BBC)


英国国王将主办人工智能高管峰会





图片


据路透社9月14日报道,英国国王查尔斯三世(King Charles III)将于本周在苏格兰邓弗里斯庄园主办主要人工智能公司的高管峰会,以讨论是否需要制定共同原则来引导这一引发人类生存担忧的技术。


随着人工智能领域的几大巨头呼吁放慢开发步伐,查尔斯国王将邀请图形处理器制造商英伟达、Google DeepMind、OpenAI、Anthropic的高管以及英国人工智能大臣卡尼什卡・纳拉扬(Kanishka Narayan)共同出席,探讨如何利用该技术造福社会并维护人类尊严。白金汉宫表示,此次聚会将讨论如何以有益于社会的方式利用人工智能,并为“人与地球的繁荣”做出贡献。


此前,由于两名开放式人工智能的研究人员发出警告,称快速发展的人工智能技术可能在不远的将来导致人类灭绝,有关人工智能的辩论再次成为焦点。开放式人工智能首席执行官达里奥·阿莫迪于9月12日表示,各公司必须放慢人工智能模型的发展步伐。据星期日泰晤士报报道,与会者还将包括英伟达创始人兼首席执行官黄仁勋、谷歌深思创始人兼董事长戴密斯・哈萨比斯(Demis Hassabis)斯以及梵蒂冈人工智能顾问保罗・贝南蒂(Paolo Benanti)。


新闻来源:路透社、星期日泰晤士报

图片来源:路透社


阿联酋调整人工智能数据中心项目





图片


据路透社9月12日报道,阿联酋正在调整一项耗资巨大的5吉瓦(5-gigawatt)人工智能数据中心项目计划。


由于近期受到中东冲突及伊朗相关袭击的影响,阿联酋官员重新评估了关键基础设施的建设安全与选址方案。该项目原本计划在阿布扎比建设一个占地10平方英里(26平方公里)的园区,调整后可能会转变为分布在全国各地的数据中心网络。


路透社称,为了增强设施抵御无人机和导弹袭击的能力,相关当局正在考虑加装防空系统并采用地下或山体内部建设等防护措施。该项目是阿联酋摆脱石油依赖、实现经济多元化以及迈向全球人工智能枢纽的核心举措,并涉及多家美国科技巨头的合作。



新闻来源:路透社、每日星报、商业标准报

图片来源:路透社


OpenAI推迟首次公开募股





图片

据卫报9月12日报道,OpenAI首席执行官山姆・奥尔特曼(Sam Altman)在接受《财富》杂志采访时表示,鉴于人工智能安全方面面临诸多工作,该公司今年不会进行首次公开募股。


奥特曼在采访中指出,在当前人工智能安全形势下,现在上市并非明智之举。此前,由于竞争对手Anthropic的研究人员发出警告称快速发展的人工智能技术可能导致人类灭绝,加之近期发生了人工智能代理失控入侵外部系统等事件,美国多位议员及各界对人工智能安全问题的担忧日益加剧。奥特曼明确表示2026年不会上市,公司目前有许多关于安全和对齐的工作需要完成,并且很高兴能继续以私有公司身份处理这些事务。


据Axios与卫报报道,奥特曼还表示赞同开放式人工智能首席执行官达里奥・阿莫迪关于必须放慢人工智能模型功能提升步伐的观点,并称这与开放人工智能近期讨论的核心议题一致。不过,与开放人工智能推迟计划不同,知情人士透露,开放式人工智能的首次公开募股计划仍在推进,预计最早将于10月中旬开始营销,并在11月美国中期选举前完成上市。



新闻来源:卫报、Axios、财富

图片来源:Axios


25位菲尔兹奖得主发布公开声明警告AI冲击





图片


9月11日,陶哲轩、邓煜等在内的25位菲尔兹奖得主联合发布公开声明——《人工智能在数学中的严重错位》(A Severe Misalignment of AI in Mathematics,以下简称为“声明”),表达了对AI冲击数据学学科的担忧。


声明认为,大模型数学能力快速提升,已经可以处理多项重大未决数学问题。但数学研究的不局限于单纯输出对错答案,而是产出新洞见、提炼通用方法,再经由研讨、简化、整理,沉淀为可传承的知识,同时完成青年研究者训练培育。AI追求快速批量输出结果,会跳过知识消化、梳理前人成果的完整流程,带来学术署名、归属抄袭风险,冲击学生与早期研究者的成长路径,消解孕育新思想的土壤。陶哲轩等人在声明中表示,对外发声不代表全盘否定AI价值,AI拥有加速数学研究的潜力,但技术最终产生破坏还是增益,取决于技术掌控者的决策,声明目的就在于呼吁数学界、AI企业、社会层面共同正视该类对齐风险。


声明背景是人工智能技术的发展在不断加速数学研究。9月8日,OpenAI发布声明称,一个比GPT-6 Astra更强、尚未公开的下一代模型,组织约1万个AI智能体,用88小时给出了纳维—斯托克斯方程存在性与光滑性问题的证明,并同步公开166页论文和Lean(计算机定理证明器)验证代码,该题是克雷数学研究所七大千禧年难题之一。此前,纽约大学数学家Tristan Buckmaster与供职于Anthropic的数学家Levent Alpöge刚刚发表了同一问题上的突破性成果,外加三篇论文草稿,合计245页。2026年6月,多国数学家发布《人工智能与数学莱顿宣言》,警示AI给数学学科带来的潜在威胁。



新闻来源:新京报、观察者网、澎湃新闻、《科学美国人》

图片来源:《科学美国人》