作者:上海论坛 发布时间:2025-05-09 来源:复旦发展研究院+收藏本文
2025年4月25日下午,上海论坛分论坛“全球人工智能治理:藩篱与未来路径”在上海国际会议中心顺利召开。本次论坛由复旦大学主办,复旦大学发展研究院承办,旨在汇聚国际智库、学术界与产业界力量,就人工智能在全球治理中的制度障碍、安全风险与可持续发展路径进行跨领域、高层次的对话与协作。与会专家系统性地提出了务实可行的政策建议和技术路线图,为构建开放、包容、公正的全球人工智能治理新格局提供了重要智识支撑。本次分论坛由复旦大学发展研究院副教授、复旦大学金砖国家研究中心副主任江天骄与复旦大学发展研究院副研究员、上海数据研究院特聘研究员姚旭共同主持。
上半场,联合国前副秘书长Kim Won-soo、日内瓦安全政策中心执行主任Thomas Greminger、美国降低核威胁倡议组织副总裁Lynn Rusten、宏理国际总裁Eric Richardson、战略预见集团总裁Sundeep Waslekar、西蒙长期治理研究所联合创始人兼联合首席执行官Maxime Stauffer、战略预见集团执行主任Ilmas Futehally、嘉川大学法学教授、人工智能·数据与政策研究中心主任Kyoungjin Choi等八位专家,从多边框架与制度设计入手,深入剖析了区域监管协调与机制创新的重要性;针对人工智能在军事和核风险领域的特殊挑战,提出了前瞻性的协同治理思路。
联合国前副秘书长Kim Won-soo指出:当前人工智能的技术和规范之间正在产生逐步扩大的藩篱和鸿沟。第一是政治鸿沟,即全球南北方尚未形成就人工智能治理协调一致的法律法规;第二是价值鸿沟,比如西方国家聚焦于自由主义和隐私保护,而中国将国家安全放在首位;第三是单边主义与多边主义之间的鸿沟,这将决定未来人工智能全球治理的基本路径;第四是技术上的鸿沟,应通过搭建集成化的人工智能技术框架来应对人工智能的分布式特征。
日内瓦安全政策中心执行主任Thomas Greminger指出,中国和欧盟的人工智能治理都强调保护公民的个人权利,双方基于共同的治理理念,展现出深层次战略合作潜力。通过中欧强强联合,可以凝聚国际共识,共同塑造未来的人工智能全球治理框架。
美国降低核威胁倡议组织副总裁Lynn Rusten指出,接入AI系统的核武器控制系统正在愈发普及,且可能加剧核扩散。必须重视外交手段,提升核大国间的战略互信,同时克制对核武器库的扩大,停止核军备竞赛。此外,Lynn Rusten呼吁中美之间尽快重启降低AI核武器的军事对话,并推动构建标准体系,对AI时代的核能力进行有效评估。
宏理国际总裁Eric Richardson提出了人工智能安全风险管控的三步走策略,即“风险识别”“治理框架设计”和“采取治理行动”。其中最重要的环节在于“风险识别”,应该尽快凝聚共识,在AI的军事风险没有带来大规模负面影响之前防患于未然。
战略预见集团总裁Sundeep Waslekar与战略预见集团执行主任Ilmas Futehally指出,中美及西方国家在AI治理方面已展开诸多对话,应该在AI治理中聆听全球南方国家观点、了解各国异同、促成南北国家达成共识。为保证全球南方国家对AI治理的参与,应该建立全球协调框架监管算力和应用、打造全球AI加速器,汇聚科研及开发人员合作互助、利用本地力量,建立本地AI管理空间,推动AI合理发展。
西蒙长期治理研究所联合创始人兼联合首席执行官Maxime Stauffer指出,AI发展带来了三重权力转变,即AI开发者与非开发者之间、AI开发者和开发者之间以及人类与AI系统之间的权力变化,且目前缺乏有效控制手段。对此,应该专注民用AI研发,在硬件和对话等方面加强治理;建立AI研发标准,建立类似应对气候变化的协商对话机制;建立国家间信任,透明化报告AI事故,制定并分享规范文件,通过增强治理合作和透明度来降低不确定性和风险。
嘉川大学法学教授、人工智能·数据与政策研究中心主任Kyoungjin Choi分享了韩国在AI治理领域的道路选择。他指出,美国的AI治理过于强调国防、安全,而欧盟过于强调监管,韩国则希望选择“第三条路径”,做好发展和风险的平衡。各国需凝聚共识,平衡发展与安全,遵循保护人类尊严、促进繁荣的原则进行AI治理。韩国愿为全球AI治理贡献力量,推动国际合作。
下半场,上海社会科学院新闻研究所互联网治理研究中心主任方师师、中国信通院人工智能研究所所长、中国-金砖国家人工智能发展与合作中心办公室主任魏凯、联合国工业发展组织全球工业人工智能联盟卓越中心秘书长徐纯、中国电子技术标准化研究院信息技术研究中心副主任、全国数标委副秘书长张群、上海国际问题研究院网络空间国际治理研究中心秘书长封帅、同济大学网络空间国际治理研究基地常务副主任鲁传颖等七位专家,聚焦人工智能基础设施与产业实践,从大语言模型基础设施的普惠潜力到数字不平等再均衡、从产业安全治理到可持续发展倡议,再到数据标准对接,全面探讨了在实践层面推进人工智能治理的路径,强调数字基础设施公平配置与国际技术标准协同发展的必要性。
上海社会科学院新闻研究所互联网治理研究中心主任方师师指出,大语言模型具备成为全球数字基础设施的潜力,但目前仍受制于发展不平等和地缘政治因素,需通过技术优化和全球协作实现更均衡的发展。可探索以中文大模型为代表的新路径,促进全球南方国家的技术赋能。
中国信通院人工智能研究所所长魏凯指出,人工智能安全治理需要多主体参与:政府负责制定政策与标准,企业要落实法规和标准,加强行业自律,第三方机构开展认证测试,学术界为治理提供技术和理论支持,公众AI素养也需要持续提升,共同形成“以人为本、智能向善”协同治理格局。
联合国工业发展组织全球工业人工智能联盟卓越中心秘书长徐纯指出,人工智能作为引领性技术,正深刻改变产业格局,但同时也面临算法黑箱、数据安全等治理挑战,需要技术发展与伦理治理并重。全球工业人工智能联盟卓越中心诚挚邀请各界专家加入这一全球合作平台,共同促进人工智能在实体产业中的创新应用,为全球AI治理贡献中国智慧和国际方案。
中国电子技术标准化研究院信息技术研究中心副主任张群指出,中国积极参与ISO/IEC等国际标准组织的相关工作,推动人工智能数据领域的国际标准制定。标准化工作既是落实国家数据政策的具体举措,也是连接宏观治理要求与产业实践的重要桥梁,旨在为人工智能发展提供规范化的数据基础支撑。
上海国际问题研究院网络空间国际治理研究中心秘书长封帅指出,AI治理已成为全球共识,其与产业发展呈共生关系。当前治理进程呈现多元化特征,各国政府、国际组织、企业、学界等主体共同参与,但利益诉求差异导致治理图景碎片化,国际竞争不可避免。同时,AI治理体系建设长期滞后于技术迭代速度。法律程序周期难以匹配技术革新节奏,实现敏捷治理面临巨大挑战。因此,加强国际对话尤为重要,上海论坛等平台通过促进知识精英交流,为构建合作网络提供契机。唯有在竞争中保持开放沟通,才能推动AI治理行稳致远,实现技术创新与人类福祉的平衡发展。
同济大学网络空间国际治理研究基地常务副主任鲁传颖指出,AI技术的扩散是一把“双刃剑”,既可以缩小南北方差异,也可能到来新的不稳定和风险。要兼顾多边主义原则和各利益攸关方原则开展全球AI治理,保证国家统筹协调和企业、社会、市场的平等参与,需要构建一个凝聚国际共识的标准化框架,使多边各方肩负起各自的责任。
本次分论坛以多元对话与深入研讨相结合的方式,既为学术界与决策层搭建了人工智能全球治理的高水平交流平台,也为人工智能产业界提供了前瞻性政策蓝图和技术指引。与会专家一致认为,应共同助力全球南方国家提升人工智能治理能力、弥合智能鸿沟,推动全球南北协同创新,实现技术进步与社会价值的共融共赢,以制度设计、政策研究和产业实践为抓手,共同推进公平、透明、可持续的全球人工智能治理体系建设。