全球AI创新治理|慕安会AI侧边活动 聚焦非国家行为体滥用风险治理与危机管理

作者:江天骄 发布时间:2026-03-05 12:55:43 来源:全球人工智能创新治理中心 20+收藏本文

2026年2月10-13日,全球人工智能创新治理中心研究员江天骄受邀参与慕安会多场人工智能治理侧边活动。在相关对话和讨论过程中,欧美专家此番不约而同的将目光转向非国家行为体滥用先进人工智能技术的安全风险及其治理议题值得关注。


图片

第62届慕尼黑安全会议开幕式现场

图片来源:新华社


在具体风险场景方面,专家们对非国家行为体滥用人工智能发动网络攻击、核生化攻击以及恐怖袭击等挑战表达了共同的担忧,同时呼吁各国政府、监管机构和企业在各个环节建立有效的技术和政策干预措施。


欧美学者则对开源模型在这一问题上的潜在风险提出了更多疑虑。前几个月,Anthropic已经公开发布报告将矛头对准所谓人工智能加剧大规模网络攻击问题。此次会上,国外专家进一步援引相关报告以及国外对国内开源模型在核生化等议题上的安全测评结果,带来较大挑战。更为棘手的是,国内一些模型发布的同时确实没有公布安全测评说明,在国际交流和交锋中吃了哑巴亏。


在应对措施方面,欧美专家建议推动人工智能危机管理并建立专门的政府间沟通联络机制和企业间的信息披露或共享机制。类似倡议早在英国举办人工智能安全峰会时就已经提出并初步建立了相关机制。但目前看来,一是人工智能被滥用的风险有增无减,形势挑战更加严峻;二是已有机制可能并不及预期。尤其美国对人工智能安全监管的政策变化是较大的不确定性因素。此外,相关危机处置究竟应该由谁牵头、向谁报告或披露信息、在多长时间内完成、披露或分享哪些信息都是极为复杂的国内治理和外交博弈问题。


最后,在一次非正式晚餐会上,德国专家表达了对欧洲人工智能发展和整个地缘政治经济格局的焦虑。在加拿大总理卡尼的达沃斯讲话之后,欧洲开始更加严肃的讨论所谓“战略自主”问题。面对中美在人工智能领域的高歌猛进,一些欧洲专家坦言是时候多到中国走走看看,实地感受一下人工智能的浪潮。恰逢近期德国总理访华,期待中德能够在这一关键领域开辟广阔的合作空间。