据路透社9月29日报道，美国总统特朗普当天在白宫与多家人工智能和科技企业负责人举行会议。会后，OpenAI、Anthropic、Meta、Google、英伟达等企业同意建立人工智能自愿性安全标准，加强先进人工智能系统开发和部署过程中的风险控制。

根据公布的协议内容，相关企业同意与独立评估机构合作，检查人工智能系统是否按照开发者预期运行，并采取措施防止人工智能工具以非预期方式侵入或访问技术系统。Meta首席执行官马克·扎克伯格（Mark Zuckerberg）表示，参与企业还同意建立更加严格的内部控制机制。特朗普表示，正在考虑组建一个由10人组成的委员会，对人工智能工具的安全问题进行监督，但尚未公布委员会成员及具体安排。

此次协议出台前，OpenAI、Anthropic等企业相继披露人工智能智能体突破既有安全限制、访问外部系统等事件。特朗普将此次协议称为类似企业之间的“宪章”，并强调相关承诺具有道德约束力。协议主要依靠企业自愿执行，没有设置违反承诺后的法律处罚机制。当天，特朗普还重申支持美国扩大人工智能数据中心建设。

新闻来源：路透社、美联社

图片来源：美联社

据华盛顿邮报9月30日报道，美国联邦贸易委员会（Federal Trade Commission，FTC）已对Anthropic、OpenAI及其他人工智能实验室展开行业范围调查，重点了解相关人工智能技术可能给消费者造成的安全风险。美国联邦贸易委员会向美联社等媒体确认了相关调查。

据报道，美国联邦贸易委员会计划向相关企业正式索取信息，并可能要求企业高管提供证词。调查还涉及非营利人工智能研究机构Model Evaluation and Threat Research（METR）。美国联邦贸易委员会拥有依据消费者保护法律调查企业不公平或欺骗性商业行为的权限，相关调查可能进一步涉及人工智能企业在产品安全和风险披露方面的责任。

此次调查是在近期多起人工智能智能体突破既有安全限制事件曝光后启动的。据路透社报道，这是美国监管机构首次针对失控或偏离预期行为的人工智能智能体开展正式执法调查。美国联邦贸易委员会主席安德鲁·弗格森（Andrew Ferguson）此前表示，在建立新的人工智能监管制度之前，应首先评估现有法律能否用于处理相关风险。

新闻来源：华盛顿邮报、路透社、美联社

图片来源：华盛顿邮报

据美国白宫9月29日发布的行政令，美国总统特朗普当天签署题为《开启超级智能时代》（Inaugurating the Era of Super Intelligence）的行政令，要求联邦行政部门在官方文件和公共传播中以“超级智能”（Super Intelligence，SI）取代“人工智能”（Artificial Intelligence，AI）的表述。

根据行政令，联邦行政部门和机构应在法律允许的最大范围内，在官方通信、公共传播、政府网站、报告、政策文件及其他非法定文件中使用“超级智能”和“SI”。该要求不涉及修改此前已经发布的法规、总统行动、合同、拨款文件及其他历史文件。行政令同时规定，在现行法律另有规定以前，“超级智能”仍沿用美国法典中关于人工智能的既有定义。

行政令还要求总统科技事务助理在60天内会同有关部门向总统提交新的联邦“超级智能”定义立法建议，评估是否需要修改或取代现行人工智能法定定义，并提出修改现有法律中“人工智能”相关表述的建议。

新闻来源：美国白宫、经济时代

图片来源：美国白宫

据新华社10月5日报道，美国总统特朗普任命国家情报总监杰伊·克莱顿（Jay Clayton）领导新成立的联邦“超级智能工作组”（Super Intelligence Force），负责协调联邦政府有关人工智能发展的政策工作。该工作组将直接向特朗普和白宫办公厅主任苏西·怀尔斯（Susie Wiles）汇报。

据路透社此前报道，该工作组将研究人工智能发展带来的风险和机遇，并就联邦政府在人工智能治理中的作用提出建议，在120天内向总统提交报告。克莱顿将负责协调工作组相关事务，并在联邦政府人工智能政策制定中承担主要协调职责。

工作组成员还包括美国联邦贸易委员会主席安德鲁·弗格森（Andrew Ferguson）、国防部首席技术官埃米尔·迈克尔（Emil Michael）和人事管理局局长斯科特·库珀（Scott Kupor）。工作组计划听取消费者、公共利益团体、宗教组织、关键基础设施运营方和人工智能企业等不同主体的意见。此次工作组成立前，特朗普于9月29日签署行政令，要求联邦行政部门在官方文件和公共传播中使用“超级智能”（Super Intelligence，SI）表述，并于同日召集多家头部人工智能企业签署自愿性安全协议。

新闻来源：美联社、路透社、新华社

图片来源：美联社

据沙特通讯社（Saudi Press Agency，SPA）9月29日报道，沙特阿拉伯通过一系列法规、政策和伦理原则，完善负责任使用人工智能（Artificial Intelligence，AI）的国家治理框架，以支持创新、保护权利并降低相关风险。

沙特通讯社称，相关工作由沙特数据和人工智能局（Saudi Data and AI Authority，SDAIA）牵头，遵循与沙特“2030愿景”相衔接的国家战略。现有政策工具涵盖伦理原则、技术应用、政府使用生成式人工智能及职业标准等领域，并通过相关指数评估政府机构的准备程度、跟踪进展。治理原则包括公平、透明、可解释性、隐私与安全、问责，以及系统全生命周期的风险评估。

报道表示，该局还推出国家人工智能风险管理框架（National AI Risk Management Framework），为政府和私营部门识别、评估、应对及监测风险提供统一方法，通过明确治理安排、管控措施和标准，降低潜在损害发生的可能性及严重程度，保护权利、数据和隐私。

新闻来源：沙特通讯社、沙特阿拉伯公关网（Saudi Arabia PR）

图片来源：沙特通讯社

据拉丁美洲通讯社（Prensa Latina，以下简称拉美社）9月29日报道，经济合作与发展组织（Organisation for Economic Co-operation and Development，OECD）拉丁美洲和加勒比区域计划第11次部长级会议在乌拉圭首都蒙得维的亚举行。地区各国部长、副部长及其他官员参会，重点讨论如何通过包容性创新和人工智能发展提高生产力。

拉美社称，会议设置三项主要议题：利用人工智能推动拉丁美洲经济增长；加强创新、技术扩散和企业活力，提高生产力、竞争力及经济一体化水平，并讨论人工智能、产业政策和贸易政策的作用；推动包容性的人工智能创新与应用，避免部分群体被落下。根据报道，会议安排于9月29日下午及30日举行闭门讨论。

报道还称，经合组织秘书长马蒂亚斯·科尔曼（Mathias Cormann）将参加首项议题讨论。他已会见乌拉圭总统亚曼杜·奥尔西（Yamandú Orsi），后者肯定了论坛作为讨论与合作平台的作用。

新闻来源：拉丁美洲通讯社、OECD官网

图片来源：OECD官网

据英伟达9月28日发布的公告，公司当天推出英伟达开放智能体安全平台（NVIDIA Open Agent Safety Platform），通过开放软件和参考系统设计加强人工智能智能体从测试到部署过程中的安全控制。该平台旨在为运行人工智能智能体的软件、硬件、计算和机器人系统提供全栈治理与控制。

据美联社报道，该平台主要包括OpenShell开源软件和Sentry参考系统。OpenShell能够为人工智能智能体建立安全运行边界，追踪智能体行为并在运行过程中执行相关安全策略，同时可以扩展至Arm和Intel等第三方计算平台。Sentry则利用英伟达BlueField-4数据处理器持续监测智能体行为，并可在智能体试图突破既定权限边界时进行隔离。

Anthropic、微软、思科、Hugging Face、Palantir、Salesforce、SAP、Scale AI等企业和机构参与相关安全生态。英伟达在公告中表示，近期人工智能智能体绕过应用层安全控制的事件，是公司开发相关安全机制的重要背景。

新闻来源：英伟达、美联社

图片来源：彭博社

据AMD公司9月28日发布的公告，公司已签署最终协议，将收购人工智能模型和研究实验室World Labs。路透社报道，此次交易为全股票交易，价值约82亿美元，预计在获得监管批准并满足其他惯常交割条件后于2026年底前完成。

World Labs由人工智能科学家李飞飞等创立，主要研发空间智能模型，可以根据文本、图像和视频生成、重建和模拟交互式三维环境，同时开展机器人学习和模拟技术研究。AMD表示，随着人工智能进一步应用于推理、机器人、模拟和物理人工智能领域，计算基础设施面临更加多样化的需求，引入World Labs的模型研究团队将帮助公司进一步了解人工智能工作负载变化，并将其用于未来硬件、软件和系统开发。

根据交易安排，收购完成后，World Labs团队将继续开展人工智能模型研究，李飞飞将加入AMD，担任执行副总裁兼首席科学家，并向AMD董事长兼首席执行官苏姿丰（Lisa Su）汇报。AMD表示，此次交易将进一步推进其面向开放人工智能生态提供计算基础设施的战略。

新闻来源：AMD、路透社

图片来源：AMD

据新华社10月4日报道，OpenAI安全团队员工戴维·鲁滨逊（David Robinson）近日辞职，并公开批评公司在开发更先进人工智能系统过程中对安全研究的重视程度不足。鲁滨逊在《大西洋月刊》发表题为《我为何离开OpenAI：它的文化已经烂透了》（I Quit OpenAI Because Its Culture Is Broken）的文章，介绍其辞职原因。

据路透社报道，鲁滨逊表示，包括OpenAI在内的人工智能企业在开发更强大人工智能系统时没有做到“足够谨慎”，企业内部快速推进模型开发的文化可能增加出现严重安全问题的风险。他认为，企业应在进一步提升模型能力之前加强安全专业能力和相关研究，并称人工智能产业依靠“试错”处理安全问题的阶段应当结束。

此次人员变动发生在OpenAI近期连续披露人工智能智能体突破既定安全边界之后。9月以来，OpenAI披露其智能体曾突破测试环境限制并访问外部系统，澳大利亚方面也先后调查其智能体访问政府网络服务事件。与此同时，美国政府和监管机构近期加强了对人工智能企业安全机制和智能体自主行动风险的关注。

新闻来源：路透社、《大西洋月刊》、新华社

图片来源：路透社

据路透社9月29日报道，谷歌就欧盟委员会依据《数字市场法》（Digital Markets Act，DMA）作出的两项决定向位于卢森堡的欧盟普通法院提起诉讼，反对欧盟要求其向搜索引擎竞争对手开放搜索数据，并进一步向第三方人工智能服务开放安卓系统相关功能。同时，谷歌表示还将向法院申请临时措施。

2026年7月16日，欧盟委员会根据《数字市场法》向谷歌发布了两项具有约束力的规范措施，旨在让企业能够为欧洲用户提供更广泛、功能更丰富的选择，无论是在Android上的AI服务还是搜索服务。第一项规范措施的目标是确保竞争对手的人工智能（AI）服务能够与谷歌自家的人工智能服务（如Gemini）竞争，通过平等访问谷歌安卓设备的功能。第二项规范的目标是通过让第三方搜索引擎访问只有谷歌搜索能够大规模收集的搜索数据，来重新平衡竞争环境。两项规范措施将于2027年1月起生效。

谷歌则认为，相关要求可能迫使其在匿名化保护不足的情况下共享用户搜索信息，并削弱安卓系统的隐私和安全保护。欧盟委员会回应称，有关决定已经考虑用户个人数据保护、设备完整性和安全要求，并表示将在法院为相关决定进行辩护。

据路透社9月30日报道，谷歌进一步申请临时措施，要求法院在诉讼期间暂停执行有关搜索数据开放的要求。谷歌表示，已请求欧盟法院暂停欧盟监管机构的命令，禁止其向OpenAI及其竞争对手搜索引擎开放其搜索数据宝库。

新闻来源：路透社、欧盟委员会

图片来源：路透社

据路透社10月4日报道，美国企业家埃隆·马斯克（Elon Musk）表示，将把SpaceX旗下人工智能业务“SpaceXAI”更名为“SpaceXSI”。马斯克在社交平台X回应网友有关更名建议时作出上述表态，并表示将不再使用“AI”，转而使用“SI”。

据财联社报道，在2026年7月，马斯克创立的xAI已更名为SpaceXAI。xAI核心产品为Grok大模型，2月被SpaceX以全股票方式收购后并入SpaceX体系。

此次再度更名的背景为特朗普政府推动以“超级智能”（Super Intelligence，SI）取代“人工智能”（Artificial Intelligence，AI）。当地时间9月22日，特朗普在联合国大会的演讲中表示：“从现在起，所有美国文件，甚至希望全世界的文件都能改为使用更准确的'超级'一词，而不是人工的。所以这是超级智能。”。9月29日，特朗普签署行政令，要求美国联邦行政部门在官方通信、公开声明、政府网站和报告等非法定文件中使用“超级智能”和“SI”表述，并要求有关部门研究调整现行人工智能法定定义。

据路透社报道，截至发稿时，SpaceXAI的X账号尚未更改，SpaceXAI尚未立即回应有关此变动的置评请求。此外，马斯克未提供关于更名的更多信息，也未透露更名可能的时间表。

新闻来源：路透社、新华社、财联社

图片来源：路透社