作者:CGAIG 发布时间:2025-09-30 来源:澎湃研究所+收藏本文
近日,澎湃新闻研究所联合复旦大学发展研究院主办、全球人工智能创新治理中心承办的“澎湃下午茶·走进上海智库”第三场活动在复旦大学智库楼举行。本次研讨以“全球人工智能创新治理的新变化与新趋势”为主题,汇聚了来自高校、科研院所、业界专家和有关部门等多方代表进行深入交流。本次研讨会由澎湃新闻副总裁、澎湃研究所所长张俊主持,上海市哲学社会科学规划办公室和上海市经济和信息化委员会人工智能发展处共同指导。
研讨会合影
上海市哲学社会科学规划办公室主任李安方
上海市经济和信息化委员会人工智能发展处副处长王鑫
澎湃新闻副总裁、澎湃研究所所长张俊
复旦大学副校长、全球人工智能创新治理中心执行主任陈志敏教授在致辞中指出,人工智能的蓬勃发展正深刻改变社会结构,推动全球治理体系加速演进。复旦大学在各界支持下推动全球人工智能创新治理中心启动运行,该中心将聚焦几个关键领域的工作:一是积极组织参与全球范围内的人工智能治理对话,强化中外人工智能治理研究合作交流;二是推动人工智能普惠包容发展,赋能全球南方国家能力建设,弥合智能鸿沟;三是加强与欧美等全球北方国家的交流合作,凝聚治理共识,助推开放共享和南北合作;四是聚合全球产学研资源,搭建一个惠及上海、中国和全球的共享平台。
目前,中心已在前期初步形成一系列成果,本次研讨会将公开发布我们第一本围绕全球人工智能治理趋势的研究报告。未来中心将发布系列报告,组织高端国际研讨会、人才培训等系列活动,为上海和中国在人工智能赋能全球可持续发展领域做出新的贡献。
复旦大学副校长、全球人工智能创新治理中心执行主任陈志敏教授
全球人工智能创新治理中心研究员、复旦发展研究院副研究员姚旭代表中心项目组发布《全球人工智能治理新趋势——以“上海宣言”为起点的观察》研究报告。《报告》分为两个主要部分。第一部分主要探讨《人工智能全球治理上海宣言》发布一年来全球人工智能治理领域出现的新趋势、新变化,并结合实际情况,提出相应的政策与行动建议。第二部分集中呈现全球十余个国家的专家观点,展现来自全球不同地区、不同领域的专家如何看待人工智能治理的现状与前景的多元声音。
《报告》认为,在联合国框架下强化多方协作是提升人工智能能力建设的重要路径;应协调发达国家与发展中国家的利益诉求、促进公共部门与私营部门的深入合作,形成多元主体共同参与的治理格局;增进各方战略互信,推动人工智能治理规则对接和标准对齐将是未来全球人工智能治理的主要任务;为确保全球人工智能治理体系平等包容,人工智能能力建设普惠各方,应加强全球南方国家间资源共享,团结全球南方在人工智能治理决策中共同发声,进一步强化南北合作。
全球人工智能创新治理中心研究员、复旦发展研究院副研究员姚旭
随后的开放讨论环节进一步激发了与会嘉宾的深度交流。他们不仅就人工智能的应用与治理分享了前沿的实践思考,更围绕中国尤其是上海如何在全球AI治理格局中发挥积极作用,提出了富有建设性的发展路径。
全球人工智能创新治理中心研究员、复旦大学国际问题研究院教授蔡翠红梳理了当前全球人工智能治理的格局、挑战与中国方案。蔡翠红教授指出,人工智能正成为全球权力格局重塑的关键变量,全球人工智能治理总体格局呈现出制度化、多中心、多层次的特点,并逐渐形成以中、美、欧为核心支点、其他国家不断跟进的多极互动态势。挑战方面,AI治理伴随着制度化趋势同时出现了多层嵌套和碎片化现象;少数发达国家与科技巨头掌握大部分算力和数据,价值观分歧使各方准则难统一;技术迭代快速,但治理存在滞后。对此,蔡翠红教授建议通过议题分区加软法组合形式,逐步推进共识的形成。对于中国的角色,蔡翠红教授强调应持续发挥价值引领作用,增强技术产业实力提升规则话语权,深化南南合作助力发展中国家共享AI成果,并积极参与中美、中欧多边对话,在求同存异中寻求共识。
全球人工智能创新治理中心研究员、复旦大学国际问题研究院教授蔡翠红
复旦大学技术创新战略研究中心教授徐文伟从产业实践出发,探讨了AI落地应用的困境及治理必要性。目前存在的问题在于:第一,对AI期望过高,但目前仍处于弱人工智能阶段;第二,AI霸权和不公平现象值得警惕;第三,AI的可解释性和可靠性存疑;第四,AI的伦理问题值得重视,包括对劳动力的支持以及对企业的规范;第五,亟待制定各行各业使用AI互通互联的标准,使得数据在各行各业之间流通共享。
复旦大学技术创新战略研究中心教授徐文伟
上海信投副总裁、库帕思科技董事长山栋明阐述了推进AI治理的三要素,即主体、客体与规则。治理主体方面,过去全球治理中跨国企业曾扮演关键角色,未来塑造AI治理格局的对话主体很大程度上将是AI版跨国公司。治理客体方面,算法、算力等各要素具有动态演进性,需要分级分类分层治理。治理规则方面,应采用“快、专、用”的策略,快速推动、强化专业性、关注规则标准应用。山栋明董事长建议进一步推进开源和降低使用门槛,通过代码、模型、数据多方面开源,推动边际成本的降低。
上海信投副总裁、库帕思科技董事长山栋明
阿里智能信息事业群公共事务总监陈迪思分享了大型互联网公司在AI安全治理方面的挑战与实践。夸克是阿里巴巴AI旗舰应用,集纳了AI搜索、AI写作、AI解题、A健康助手、AI生图、AIPPT、AI简历等一系列工具,为用户打造工作、学习、生活的AI全能助手。在治理上,夸克构建覆盖全流程的策略、能力与组织体系,打造安全可靠的AI应用:如治理嵌入全链路,以AI治AI提升安全能力,问题驱动安全运营强化实时防控。大模型互动服务模式带来合规主体多元化,自我学习的能力决定了“数据饥渴”的常态化。陈迪思总监建议:企业应主动提升模型安全认知与风控能力,落实AI标识保障用户知情权;行业可共享恶意样本等高质量数据集;期待尽快出台多元主体安全责任划分指引,推动行业健康有序发展。
阿里智能信息事业群公共事务总监陈迪思
上海市人工智能行业协会副秘书长徐琦介绍了上海在人工智能领域的产业发展情况。上海市拥有全栈技术体系,从基础设施、芯片、算力集群到基础模型、应用场景一应俱全,这为全面推进治理打下基础。在此背景下,应充分发挥人工智能行业协会在链接与赋能产业生态方面的关键作用,推动人工智能产业的发展。随后,徐琦副秘书长分享了以下几个方面的思考:一是人工智能伦理治理离不开技术、生态、产业各方面的创新、产品化和商业化。二是标准非常重要,企业应小步快跑,推动技术的底层创新与外部合作。三是建议设立AI出海实践基地,为国内大模型及人工智能相关产品的应用与服务拓展海外市场提供全方位支持。四是建议立足上海向国际推动人工智能开源与普惠产品的出海,为全球南方国家做良好的基础设施、模型等多方面的赋能,通过国际场景的开放共建,与全球南方国家深化合作。
上海市人工智能行业协会副秘书长徐琦
上海社会科学院互联网研究中心主任惠志斌从宏观和战略高度阐释了对于AI治理工作的理解。首先,AI治理是一个动态演进的过程。随着新技术发展,不断涌现出新的治理问题。其次,各国在AI治理理念上也存在博弈。从战略判断来看,中国必须具备足够的制度自信和战略定力,坚持走开放合作之路,在国际舞台上提供更多的AI治理公共产品。再次,AI治理是数字世界的信任议题,中国可以通过技术信任在更广范围内推动互信与共识的形成。基于此,惠志斌主任建议,进一步结合人工智能技术发展引发一系列发展困境和安全风险进行专题性的研究以及推动学术界和产业界深入互动合作等。
上海社会科学院互联网研究中心主任惠志斌
启元洞见智库高级研究员朱荣生认为,推动人工智能治理产业可成为缓解人工智能商业化盈利不足的机会。上海促进和发展人工智能治理产业既能够提高技术的安全性,又能够创造经济价值,还能够推动中国在国际上塑造出负责任大国的形象。他认为,成立全球人工智能创新治理中心是中国负责任地参与全球治理的重要步骤,不仅有助于推动人工智能全球治理进程,更能够让中国的良好实践走出去,将国际先进发展和治理经验引进来。
启元洞见智库高级研究员朱荣生
复旦大学计算机科学技术学院教授肖仰华从人工智能发展的本质出发,对治理提出了更深入的思考。首先,肖仰华教授强调要厘清概念,区分人类社会本身存在的问题以及AI原生带来的治理问题。其次,这场AI革命与以往工业革命根本不同,AI开始在一定程度上代替人类进行认知和决策,AI革命是认知主体的革命。再次,治理和发展并非简单对立,良好的治理能为技术持续健康创新保驾护航。最后,应提高战略高度,AI治理绝非简单的技术治理,更关系到未来人类文明的发展方向。基于此,肖仰华提出建立AI风险分级分类的治理体系、围绕AI发展的不同阶段设计治理体系、加大跨学科的研究力度、警惕AI应用过程中潜在的风险、形成建立共识性的AI治理框架等多条建议。
复旦大学计算机科学技术学院教授肖仰华
在嘉宾发言环节结束后,上海市哲学社会科学规划办公室主任李安方对研讨会作出总结点评。他指出,本次研讨会实现了政、产、学、研各界的思想交融与智慧碰撞,充分彰显了跨界融合在应对人工智能治理挑战中的关键作用。他强调,人工智能不仅是全球产业发展的核心方向,也关乎中美长期竞争格局与我国国家战略布局。上海正积极融入这一进程,主动作为,已搭建包括“全球人工智能创新治理中心”在内的多个重要平台,并初步展现出其在统筹协调与引领发展方面的积极作用。
会议最后,复旦发展研究院执行院长张怡代表主办方感谢各位参会嘉宾的支持。她指出,当前人工智能在治理层面仍存在一定程度的割裂,缺乏整体协同。未来应在更大系统的支撑下,推动学界、业界等多方主体深度联动,形成合力。未来人工智能发展的美好愿景应该是在全球治理进程中凝聚共识、面向未来、推动共生、实现融合。
复旦大学发展研究院执行院长张怡
原文链接:https://mp.weixin.qq.com/s/Wci4-kb4iDLN-WtYzINdbw?scene=25&sessionid=#wechat_redirect