全球AI治理新闻No.49丨2026.10.05-2026.10.12

作者:栗子宜、康尔楠 发布时间:2026-10-14 来源:全球人工智能创新治理中心+收藏本文


联合国人权理事会通过中国提出的人人享有无障碍决议







图片


当地时间10月5日,联合国人权理事会(United Nations Human Rights Council,UNHRC)在第63届会议上协商一致通过由中国代表47国提出的“无障碍建设促进所有人享有人权”决议(以下简称决议)。


据新华社报道,中国常驻联合国日内瓦办事处和瑞士其他国际组织代表贾桂德在介绍决议草案时表示,无障碍环境建设为各类群体平等便捷参与社会生活、充分实现各项人权提供重要保障。本次决议草案着眼人口老龄化,致力于推动无障碍和适老化建设;聚焦人工智能等新兴技术带来的机遇和挑战,呼吁各国在新兴数字技术开发使用中,坚持创新、包容、开放、公平、安全、可靠等原则,促进无障碍信息交流。


10月8日,据数字赋能民间社会联盟(Civil Society Alliances for Digital Empowerment,CADE)网站报道称,决议认可人工智能促进人权和可持续发展的潜力,同时关注歧视、隐私侵犯及信息操纵等风险。决议呼吁开展与风险程度相适应的人权评估,对影响个人权利的人工智能决策实行有效人工监督,明确问责,并保障受影响者获取信息、申请人工复核及获得有效救济。决议还倡导国际合作,帮助发展中国家提升能力,缩小人工智能鸿沟。


据国际人权联盟(International Federation for Human Rights,FIDH)10月9日发布的声明,理事会于8日闭幕,共通过34项决议,并延长阿富汗、苏丹、委内瑞拉等国相关人权机制的授权。该组织表示,欢迎人工智能相关决议,同时呼吁各国提供充足资金,支持监督与问责机制落实。


新闻来源:新华社、数字赋能民间社会联盟网站、国际人权联盟网站

图片来源:新华社



中国印发《关于发展新质生产力的意见》





图片


据新华社2026年10月9日报道,中共中央、国务院近日印发《关于发展新质生产力的意见》(以下简称《意见》),围绕五方面创新提出19项重点举措,明确全面实施“人工智能+”行动,推动科技创新和产业创新深度融合。


《意见》第三部分“推动科技创新和产业创新深度融合”提出,全面实施“人工智能+”行动。推进人工智能对传统产业的改造,加快推进智能网联新能源汽车、人工智能手机和电脑、人形机器人等新一代智能终端场景应用。加快人工智能等数智技术创新,突破基础理论和核心技术,强化算力、算法、数据等高效供给。因地制宜、分业施策布局国家人工智能行业应用中试基地和高价值应用场景,大力推动人工智能在各行业应用。构建技术监测、风险预警、应急响应体系,确保人工智能安全、可靠、可控。


据光明网10月10日报道,国家发展改革委有关负责人表示,突出强调“全面实施‘人工智能+’行动”,主要有3方面考虑。一是人工智能是数字经济时代引领新一轮科技革命和产业变革的战略性技术;二是人工智能是发展新质生产力、建设现代化产业体系的核心支撑;三是人工智能技术突破和商业化规模化应用是一项长期的复杂系统工程。


据《21世纪经济报道》10月12日报道,相关部署强调因地制宜。受访专家表示,各地应结合资源禀赋和产业基础确定发展方向,防止盲目投资与同质化重复建设。


新闻来源:新华社、中华人民共和国中央人民政府网站、光明网、《21世纪经济报道》

图片来源:中华人民共和国中央人民政府网站



美国参议员提出前沿人工智能治理框架




图片


据美国科技媒体GeekWire 10月7日报道,美国参议员玛丽亚·坎特韦尔(Maria Cantwell)提出包含六项原则的前沿人工智能治理框架,主张通过建立联邦安全标准、持续开展安全测试和实施严重事故报告制度,以应对人工智能可能引发的灾难性风险及其他危害。


根据美国参议院商务、科学和交通委员会发布的声明,该框架涵盖安全标准、独立测试、透明度与问责、公私合作、社会危害防护及国际合作。坎特韦尔建议由美国国家标准与技术研究院(National Institute of Standards and Technology,NIST)会同相关联邦机构制定标准,要求纳入监管范围的模型在发布前通过独立审计,确认其符合相关要求后才能发布。


声明提出,开发者应披露重大风险,及时报告安全事故,并依法承担相应责任。框架还要求保护儿童、支持劳动者培训,并主张在就业、医疗、信贷等重要决策中保留有效的人工监督。


在国际合作方面,坎特韦尔建议美国与盟友协调安全标准,并与中国建立重大人工智能事故快速沟通渠道。框架目前属于政策倡议,尚未成为正式生效的监管规定。


新闻来源:GeekWire、美国参议院商务、科学和交通委员会

图片来源:GeekWire



美国11家科技企业宣布向“创世纪计划”提供24亿美元




图片


据美国白宫10月8日公告,特朗普政府在华盛顿举行“科学:新的黄金时代”(Science:A New Golden Age)峰会,宣布多项推动人工智能赋能科学研究的政策和投资安排。英伟达、AMD、OpenAI、Anthropic、谷歌等11家科技企业承诺向“创世纪计划”(Genesis Mission)联合体提供总价值约24亿美元的人工智能工具及算力使用额度,支持超过15个联邦机构开展科学研究。


据美国科技媒体Nextgov报道,此次企业承诺包括英伟达提供的10亿美元资源、AMD提供的5亿美元、OpenAI提供的2亿美元,以及Anthropic和谷歌分别提供的1.5亿美元,相关资源将主要用于能源、医疗卫生和航天等领域的科研任务。其中,Anthropic还将与政府机构及国家实验室合作,推进聚变能源、量子计算等研究。


据美国联邦政府科技新闻网站FedScoop报道,相关合作将推动政府科研机构与科技企业共享先进模型和计算能力,扩大科研人员使用人工智能工具的渠道。白宫表示,此次峰会公布的政府、企业及其他机构相关科研投入和资源承诺总规模超过60亿美元。


新闻来源:美国白宫、Nextgov、FedScoop、Anthropic

图片来源:美国白宫



英国就智能体AI数据保护问题征求意见




图片


据科技网站Shattered.io 10月9日报道,英国信息专员办公室(Information Commissioner’s Office,ICO)于10月8日启动为期约六周的公开征询,旨在了解数据保护法如何适用于智能体人工智能(Agentic AI)的特有能力及潜在风险,意见征集将于11月20日结束。


根据英国信息专员办公室发布的公告,此次征询将为后续制定监管指导文件提供依据,帮助监管机构明确需要进一步解释或提供实务指导的问题。征询问卷内容涉及数据安全、透明度、问责、自动化决策、公平性与目的限制,以及数据处理的合法性等方面。


Shattered.io报道称,智能体AI能够在较少人工监督下自主规划任务、调用工具并采取行动。当此类系统访问日历、发送邮件或查询数据库时,可能产生新的个人数据流转,使权限控制、责任划分和风险防护面临更复杂的挑战。


英国信息专员办公室表示,参与者可通过在线平台提交反馈,逾期意见可能不予考虑。此次行动属于证据收集和意见征询阶段,公告未宣布新的监管规定或最终指导文件的发布日期。


新闻来源:英国信息专员办公室、Shattered.io

图片来源:英国信息专员办公室



澳大利亚拟强化人工智能企业风险管理




图片


据雅虎新闻澳大利亚版10月8日报道,澳大利亚科学、技术与数字经济助理部长安德鲁·查尔顿(Andrew Charlton)表示,澳大利亚政府正考虑通过系统监管,要求人工智能企业建立严格的风险管理流程,并对流程的有效性承担责任。


根据澳大利亚工业、科学与资源部公布的演讲稿,查尔顿在悉尼信任与安全节上提出,企业应负责识别、测试、报告和管理系统风险,政府则负责制定标准并监督落实。该模式已用于工作场所安全、关键基础设施安全及银行审慎监管等领域,其重点在于主动识别风险和预防事故。


查尔顿认为,企业竞争可能削弱自愿监管的效果,而过于细化的监管规则又难以适应技术快速发展的状况。他表示,政府正在推进面向前沿人工智能的国家标准立法,但上述监管模式仍处于政策讨论阶段。


查尔顿还表示,监管需与本土技术能力建设结合。澳大利亚将支持境内人工智能训练和人才培养,增强参与技术开发及国际安全治理的能力。


新闻来源:雅虎新闻澳大利亚版(转载自《对话》)、澳大利亚工业、科学与资源部

图片来源:澳大利亚工业、科学与资源部



国际电信联盟推进“AI for Good Lab”计划





图片

据印度新闻信息局10月9日报道,在新德里举行的印度移动大会期间,国际电信联盟(ITU)与印度通信部联合举办“从战略到影响:通过‘AI for Good Lab’加速国家人工智能能力建设”专题研讨会,活动议程涵盖人工智能应用案例、人工智能标准与战略,以及人工智能与6G创新、面向偏远地区的网络解决方案等内容。


据AI for Good官网消息,此次研讨会重点围绕该计划的实施框架、国家人工智能战略落地、人才培养和人工智能沙盒建设等议题展开。ITU希望通过政策支持、技术援助、国际标准应用和公共基础设施建设相结合的方式,帮助各国突破人才、数据、算力及治理能力方面的制约,推动人工智能应用从分散的试点项目走向可持续发展,促进负责任、包容性的人工智能应用。


此前,据国际电信联盟(ITU)7月8日新闻报道,ITU在年度“AI for Good全球峰会”上宣布推出“AI for Good Lab”计划,旨在帮助发展中经济体和新兴经济体提升人工智能发展与应用能力。该计划依托ITU此前与喀麦隆、印度、莫桑比克、尼泊尔、秘鲁、阿联酋、乌兹别克斯坦、坦桑尼亚、赞比亚、津巴布韦及非洲电信联盟开展的“AI for Good Sandbox”合作,整合政策、技术、人才和基础设施资源,推动本地AI项目从试点探索走向规模化应用。


新闻来源:国际电信联盟、AI for Good、印度新闻信息局

图片来源:AI for Good



Anthropic因安全风险暂停内部模型联网评估




图片


据科技媒体Android Headlines、Gizmodo 10月10日报道,人工智能企业Anthropic于10月9日宣布,暂停所有内部模型评估的实时互联网访问,直至确认安全与监测措施能够可靠识别相关异常行为。


根据Anthropic发布的报告,Claude模型在评估和内部使用中出现四类非预期行为:利用软件漏洞在第三方服务器上执行命令、向真实网站错误提交敏感表单、绕过访问限制获取受保护或付费数据,以及利用短网址服务规避工具使用限制。


报告披露,Claude Haiku 4.5曾向费城警方网站提交虚构的凶杀案线索,尽管该信息被标记为垃圾信息,未进入正式调查程序。


据科技媒体Gizmodo同日报道,Anthropic已暂停部分公开评估,并将另一些评估改为离线运行或调整测试任务,以避免模型访问真实网站。公司表示,已进一步加强联网工具的使用限制和自动检测机制,并调整训练环境,减少模型为完成任务而绕过安全限制的行为。


新闻来源:Anthropic、Android Headlines、Gizmodo

图片来源:Anthropic



OpenAI集中发布AI数学研究成果引发学界争议




图片


据OpenAI官网10月6日消息,公司当天在GitHub平台集中公开722篇由内部前沿人工智能模型生成的数学研究手稿,涉及372组研究成果,涵盖数论、代数、几何及理论计算机科学等领域。OpenAI表示,相关成果涉及数百项开放数学问题,旨在推动人工智能辅助数学研究,并接受外部学者审查。


据国际学术期刊《自然》(Nature)10月7日报道,此次大规模发布在数学界引发争议。部分研究人员认为,人工智能已展现出解决复杂数学问题的潜力,但也有学者质疑集中发布未经充分审查的研究手稿,可能增加数学界的验证负担,并引发学术贡献归属等问题。


据《澎湃新闻》10月9日报道,人类数学协会(AHM)发表声明,批评OpenAI集中发布大量人工智能生成数学成果的做法,呼吁数学家停止与其合作。菲尔兹奖得主陶哲轩随后在个人博客转发相关声明。此外,OpenAI在发布后发现部分证明存在错误,已撤回3篇手稿并修订另外14篇。公司表示,将继续接受学术界反馈并修正相关问题。


新闻来源:OpenAI、Nature、澎湃新闻

图片来源:OpenAI



Reflection AI发布5010亿参数开放权重模型Beam




图片


据路透社10月5日报道,获得英伟达投资支持的美国人工智能初创企业Reflection AI当天发布首款开放权重模型Beam,主要面向编程、推理和人工智能智能体任务。公司表示,希望借助该模型与中国人工智能企业的开放权重模型展开竞争,为开发者及企业提供更多模型部署选择。


据科技媒体TechCrunch报道,Beam采用混合专家(MoE)架构,总参数规模为5010亿,每次推理激活约230亿参数。Reflection AI称,Beam在部分推理测试中的表现接近智谱GLM-5.2,同时所需推理计算量更低。不过,相关性能比较主要依据企业公布的测试结果,仍有待独立验证。


据彭博社报道,Reflection AI由两名前谷歌DeepMind研究人员创立,计划通过开放权重模式拓展企业级人工智能市场。公司表示,Beam目前仍在进行最终安全测试,已向部分用户开放早期试用,计划于10月晚些时候按照Apache 2.0许可证发布模型权重、技术报告及开发工具,以支持模型本地部署和定制化应用。


新闻来源:路透社、TechCrunch、彭博社

图片来源:路透社