作者:王奕博、栗子宜 发布时间:2026-05-13 12:12:42 来源:全球人工智能创新治理中心+收藏本文
中国发布《智能体规范应用与创新发展实施意见》

5月8日,中国国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简称《实施意见》)。
新闻来源:中国网信办、新华网
图片来源:中国网信办
美国与科技公司就模型安全审查签订协议

5月5日,美国商务部人工智能标准与创新中心(CAISI)发布消息,称其已与谷歌DeepMind、微软和xAI达成协议,在其新人工智能模型向公众发布前会对其进行国家安全审查。
CAISI称,开发者与政府分享未发布的AI模型是常见做法。该机构将对签署协议的公司进行40多项评估,以帮助政府全面评估与国家安全相关的能力和风险。CAISI主任克里斯福尔(Chris Fall)在一份声明中表示,独立、严谨的评估对于理解前沿人工智能及其对国家安全的影响至关重要,CAISI的举措有助于在关键时刻造福公众。
英国《卫报》报道称,OpenAI和Anthropic在2024年已与拜登政府签署了类似协议。根据当时协议,美国政府可以在公司模型公开发布前获得访问权限,以便评估和降低安全风险。
此前,5月4日《纽约时报》报道称,特朗普政府正在讨论一项行政命令,成立一个人工智能工作组,建立一套针对新型人工智能模型的正式政府审查流程,考虑将新的人工智能模型纳入政府监管。多家媒体分析认为,实施上述举措的一个重要原因是美国政府对Anthropic新一代模型Mythos安全的担忧。
新闻来源:纽约时报、金融时报、Politico、卫报
图片来源:卫报
澳大利亚监管机构呼吁采取行动应对人工智能风险

5月8日,澳大利亚证券和投资委员会(Australian Securities & Investments Commission,ASIC)对金融服务行业致公开信,呼吁澳大利亚金融业采取紧急行动,应对Mythos等前沿人工智能系统可能带来的网络风险。
ASIC在公开信中表示,前沿人工智能模型的快速演进标志着网络威胁形势的重大转变。这些模型的网络攻击能力迅速提升,降低了复杂网络活动的门槛,加快了攻击的速度和规模,并催生了此前大多数攻击者难以企及的新型攻击手段。
ASIC在信中呼吁采取更多行动,以确保网络安全措施尽可能完善。ASIC认为不应等到形势完全明朗才去应对新型人工智能模型带来的威胁。相反,现在就应该采取行动,加强网络安全。
澳大利亚证券与投资委员会专员西蒙娜·康斯坦特(Simone Constant)表示,监管机构已经意识到澳大利亚金融服务机构对这一问题认识不足,需要做更多的工作来跟上前沿人工智能变革的步伐。
此次公开信受Anthropic公司最新模型Claude Mythos影响,ASIC在发布的新闻中表示,前沿人工智能正在加剧全球网络风险,Claude Mythos等前沿人工智能模型可能会以前所未有的速度、规模和复杂性暴露网络安全漏洞。2026年4月,Anthropic公司推出新一代人工智能模型Mythos,其自身的红队报告测试和英国人工智能安全研究所(AISI)研究认为其已经具备甚至超越网络黑客的能力,引发社会对网络安全的担忧。
新闻来源:路透社、澳大利亚证券和投资委员会、经济时报、商业时报
图片来源:Australian Securities & Investments Commission (ASIC)
欧盟委员会与OpenAI及Anthropic商谈AI模型访问权限

根据路透社报道,欧盟委员会目前正与美国人工智能巨头OpenAI和Anthropic分别进行讨论,旨在获取这些公司AI模型的访问权限。欧盟委员会发言人托马斯·雷尼尔(Thomas Regnier)于本周一的例行新闻发布会上证实了这一消息,并指出与这两家公司的沟通目前处于不同的阶段。
根据路透社报道,OpenAI表现出了较为积极的姿态,不仅主动与欧盟委员会取得联系,还提议为其最新的AI模型提供访问权限。雷尼尔表示,委员会对OpenAI的这种主动参与表示欢迎,双方目前正就潜在的后续合作步骤进行持续商讨。
与此同时,欧盟委员会与Anthropic之间的接触也在进行中。雷尼尔表示,委员会已经与Anthropic举行了四到五次会议。尽管目前与Anthropic的交流进展良好,但尚未进入讨论其AI模型访问权限的具体阶段。他强调,目前还无法对是否能获得Anthropic的模型访问权限做出进一步推测。
KFGO广播电台称,这次对话反映了欧盟在加强AI监管的同时,也在寻求与全球领先的AI开发者建立直接的沟通与协作机制。目前,欧盟委员会正致力于在技术创新与安全合规之间寻找平衡,而获取核心模型的访问权限可能是其监管和评估工作的重要环节。
新闻来源:路透社、KFGO广播电台
图片来源:The Council of Europe
英国拟通过AI技术提升医疗处理效率

根据路透社与卫报报道,英国国家医疗服务体系(National Health Service,NHS)正计划授予包括美国大数据公司Palantir在内的承包商权限,允许承包商人员“无限访问”可识别患者的数据。此举涉及NHS旗舰级“联邦数据平台”(FDP)中的“国家数据整合租户”(NDIT)项目,该项目被视为数据在脱敏前的“安全避难所”。据卫报称,NHS此举旨在解决由于数据集过多导致工程师频繁申请个别权限所带来的耗时问题,从而通过AI技术提升医疗处理效率。
这一决策引发了英国政界及社会团体的强烈担忧。根据卫报报道,多位国会议员直言此举极其“危险”,认为其未将数据隐私放在首位。工党议员蕾切尔·马斯克尔呼吁政府制止该项目,防止私人利益进一步渗透医疗数据;自民党议员马丁·里格利也批评NHS对数据安全态度散漫。此外,患者协会(The Patients Association)指出,如此重大的权限变更未曾咨询患者意见,缺乏透明度。
面对质疑,相关方均做出了回应。卫报报道称,Palantir强调其角色仅为“数据处理者”而非“数据控制者”,软件操作严格遵循客户指令,且在技术上无法在NHS监控之外提取数据。NHS英格兰总部也表示已制定严格的准入政策,要求所有申请访问的外部人员必须通过政府安全审查,并获得总监级以上管理层的批准,所有操作记录均会被审计。尽管如此,近期民调显示仍有四成受访民众不信任Palantir会妥善处理患者隐私。
新闻来源:路透社、卫报、金融时报
图片来源:卫报
莫桑比克成立国家人工智能委员会

根据非洲人工智能新闻网(iAfrica)等媒体报道,莫桑比克成立国家人工智能委员会(National Commission for Artificial Intelligence),就人工智能的伦理、法律、安全和社会应用向政府提供建议,旨在“确保负责任和合乎道德地使用人工智能,推广人工智能的良好社会实践和应用”。
新成立的人工智能国家委员会(CNIA)总部设在莫桑比克首都马普托,业务范围涵盖莫桑比克全国,直接向部长理事会汇报工作。其具体职责包括:在充分考虑伦理和安全因素的前提下,就促进莫桑比克人工智能发展的战略行动提供建议;向政府通报人工智能技术现状,提供意见措施来开发对国民经济和社会发展具有潜在影响的科学、技术、产品和服务。
除其他职能外,该委员会还将就人工智能领域科学研究和教育机构的设立提案、政策、战略、行动计划和建议提供意见。此外,委员会还将考虑各项人工智能举措是否充分考虑伦理、法律、安全和更广泛的社会因素,并就与战略盟友在人工智能研究、标准制定和国际法规协调方面开展国际合作的机会提供意见。
新成立的委员会是一个跨部门机构,由莫桑比克信息和通信技术部长担任主席,国防部长和教育部长担任副主席。委员会的成员将来自公共和私营部门、学术界和社会各界。
此前,3月10日,莫桑比克通过立法,宣布成立国家人工智能委员会,将其定位为一个“就人工智能相关的科学事务、技术发展、创新和信息安全等事宜向政府提供咨询和技术建议的机构”。
新闻来源:非洲人工智能新闻网、360莫桑比克(360º Mozambique)、莫桑比克俱乐部(Club of Mozambique)
图片来源:360莫桑比克
软银探讨与英伟达及富士康共建日本国产AI服务器

根据路透社报道,软银公司(SoftBank Corp)已开始与美国芯片巨头英伟达(Nvidia)及台湾代工制造商富士康(Foxconn)进行讨论,探讨在当地建设“日本制造”的人工智能服务器。软银计划通过该项目进军高性能服务器领域,重点生产能够高速运行尖端图形处理器(GPU)的高端硬件,以满足主权人工智能及大语言模型运行的庞大需求。
日经亚洲报道称,软银的目标是在2030年前建立一套完整的生产体系。该计划预计分为两个阶段实施:初期主要负责组装外部采购的零部件;后期则逐步掌握从设计到组装的整个服务器制造流程。此举标志着软银战略的重大转型,即从人工智能领域的股权投资转向硬件制造。此前,软银集团在创始人孙正义的领导下,已向OpenAI注资超过300亿美元,持有约11%的股份。
根据 BigGo Finance 分析,目前全球AI服务器市场由美国戴尔和中国浪潮等厂商主导,日本企业的市场份额极低。软银若能成功构建国内供应链,将有助于提升日本在全球市场的份额,并增强日本在人工智能基础设施方面的自给自足能力。路透社指出,该项目可能被纳入软银的中期管理计划,官方消息最早或于下周一公布。目前,软银、英伟达及富士康均未对此报道发表正式评论。
新闻来源:路透社、日经亚洲、BigGo Finance
图片来源:BigGo Finance