当前，人工智能作为全球性的技术挑战，正超越单纯的科技维度，走向全球治理议程的中心。面对人工智能快速更迭带来的新问题、新方法与新挑战，亟需一场跨学科的交流研讨，共同推进人工智能治理的向善发展和治理合作。2024年6月14日，主题为“人工智能最新发展趋势暨全球人工智能治理”的圆桌研讨会在复旦大学举行。本次研讨会由复旦大学发展研究院主办，“中美友好互信合作计划”平台首席专家蒋昌建主持，邀请香港科技大学、上海人工智能实验室、同济大学、上海市科学学研究所等来自计算机科学、技术哲学、科学学和国际问题研究领域的专家齐聚一堂，聚焦前沿创新，共商全球治理。

通用人工智能实现的路径与大语言模型的演化

复旦大学发展研究院常务副院长、文科资深教授彭希哲在致辞中表示，前沿科技的创新不仅带来了丰厚的技术红利，也将诸多不确定性和复杂性挑战推到了前台。人工智能作为新一轮科技革命和产业变革的重要驱动力量，既对发展新质生产力、推动产业优化升级起到了关键作用，也在不断叩问技术背后隐藏的人类主体性、科技伦理、社会治理乃至全球治理的深层问题。本次研讨会将紧密围绕人工智能技术演进的迷思及全球治理议程展开讨论，这些讨论将为人工智能的健康发展提供宝贵的理论支撑和实践指导。

复旦大学发展研究院常务副院长、文科资深教授彭希哲

随着大模型的快速升级迭代，通用人工智能技术的进展确实取得了令人瞩目的成效。就类脑智能和通用人工智能（AGI）的发展，复旦大学类脑智能科学与技术研究院/大数据学院院长冯建峰教授指出，实现通用人工智能至少有两种路径：一是“功能类脑”，以深度神经网络为基础，根据功能人工设计结构；二是“结构类脑”，即以脉冲神经网络为基础，期望首先全脑网络仿真，进而实现通用人工智能（AGI）。 根据复旦大学在AGI研究方面的探索，实现真正的通用人智能的关键，在于全面模拟人脑的结构和功能，而非局部模拟。为此，复旦大学成立了亚洲顶级脑影像中心，积累了大量健康和疾病大脑数据，希望通过对比分析，建模和理论研究找到实现AGI的理论和算法基础。

复旦大学类脑智能科学与技术研究院/大数据学院院长冯建峰教授

当前人工智能产业已进入“百模大战”阶段，但人工智能的飞跃实际上才刚刚开始。香港科技大学常务副校长、香港生成式人工智能研究中心主任郭毅可教授以“如果大模型是答案，什么是问题”为题分析了生成式大语言模型发展的现状及未来发展的趋势。郭教授认为，生成式大语言模型与人类语言模型仍存在差别，未来大模型发展将顺着三个范式延展。在郭教授看来，语言模型是大模型发展的基础，其与思维机制紧密相关，语言不仅是交流工具，更是思维的编码与解码。目前的大模型主要通过信息压缩和向量化实现语言理解，故而缺乏抽象能力、主观价值和情感意识。对此，郭教授对未来大模型发展提出三个范式的展望：一是以真实性为本、以总结信息为目标的搜索范式，二是以价值观为本、以阐述观点为目标的价值观范式，三是以人性为本、以发现新奇之美为目标的创造范式。最终，人性化的语言模型是未来大模型发展的必然趋势。

香港科技大学常务副校长、香港生成式人工智能研究中心主任郭毅可教授

对于大语言模型如何演化为世界模型，复旦大学计算机科学技术学院MOSS系统负责人邱锡鹏教授指出，语言对于通用人工智能而言极其重要，而目前的大语言模型存在很多不足，而未来的研究方向是如何将大语言模型演化为世界模型，即一种能够模拟和理解环境，并能够进行决策和预测的模型，实现“具身智能+世界模型”的目标。为实现这一目标，目前MOSS团队在多模态对齐方面已经开展了大量研究。在大模型的伦理和治理方面，传统的做法是在训练的时候确保模型的伦理安全性，或者无害性。但是很难有统一的价值观和安全准则。MOSS团队提出了推断时对齐的方法，构成AI宪法，训练一个可以遵守宪法的模型，从而做到更灵活的对齐。

复旦大学计算机科学技术学院MOSS系统负责人邱锡鹏教授

人工智能引发的范式变革与治理挑战

人工智能的快速发展正引发一场深刻的范式变革，同时也带来了前所未有的伦理挑战。围绕全球人工智能伦理治理模式与特点，同济大学人文学院特聘教授杜严勇指出，在国家和国际组织层面，尽管相关战略和相关伦理规范出台频繁，但大多还难以对人工智能的发展形成强有力的约束。学术团体和科技企业的伦理审查标准间存在差异，科技企业的伦理审查可能更易受利益驱动影响。目前的人工智能治理有三大特点：一是治理服务于国家战略；二是伦理治理受到普遍重视，但治理体制不完善；三是科学家、企业家在一定程度上主导伦理治理，伦理学家话语权不强。未来应加强伦理委员会建设，结合具体场景实现伦理和技术的融合，提高学术团体与学者自律，并让伦理学家发挥更大作用。

同济大学人文学院杜严教授

围绕人工智能引发的安全范式变革与治理问题，上海人工智能实验室治理研究中心副主任王迎春研究员指出，进入大模型时代后，人工智能安全问题在内容和社会维度上发生了显著变化。人工智能安全治理需要多主体参与，对此各国都进行了积极的探索和尝试。中国高度重视人工智能安全，通过备案制和评测机制等管理大模型。未来需要进一步构建评测科学体系，发展多学科融合的评测技术和工具，也应继续高度重视并积极参与推动相关基准对接和推进跨文化对齐工作。通过构建发展和安全的双基座，为人工智能的发展和应用提供一个安全的基础。

上海人工智能实验室治理研究中心副主任王迎春研究员

对于人工智能治理究竟治理什么、谁来治理、怎么治理，上海市科学学研究所科技与社会研究室副主任李辉研究员指出，人工智能治理的复杂性，包括治理内容、治理主体和方法。特别是不同人对人工智能治理的理解差异，以及如何系统回应这些问题。对此，李辉研究员通过全球专家的贡献收集关于人工智能治理的多样视角，探讨了人工智能技术的本质和治理规律，强调了技术理解的重要性以及全球领导力在定义和推动人工智能治理中的作用。

上海市科学学研究所科技与社会研究室副主任李辉研究员

中美战略博弈与全球人工智能治理竞合

人工智能的快速发展正成为影响国家间力量平衡和全球治理格局的关键变量，背后既有国家间的战略竞争，也有全球治理合作。围绕人工智能、地缘技术与中美战略博弈，复旦大学美国研究中心副主任赵明昊教授指出，地缘技术是探讨技术与国际关系的交汇点，特别是在AI领域中美的竞争和合作。当前，中美两国在科技领域，尤其是人工智能领域的竞争日益加剧，并向经济领域和军事领域扩展。美国正在通过出口管制和投资限制等手段，加大对中国的技术竞争压力。美国在政府和高技术企业间的深入融合，如AI安全研究联盟和前沿模型论坛，显示出美国在人工智能领域的策略布局。不仅如此，美国正在通过多边和双边联盟，如五眼联盟和贸易技术理事会，加强在全球范围内的AI策略协调。这场技术博弈不仅是中美两国之间的，也是全球性的，涉及到国家安全和国际政治的重大议题。

复旦大学美国研究中心副主任赵明昊教授

在全球人工智能治理方面，复旦大学发展研究院青年副研究员姚旭指出，当前不同国家和地区采取了不同的路径。中国始终坚持发展与安全监管并行，快速立法以应对人工智能的快速发展。虽然美国人工智能产业界呼吁更有确定性的监管措施尽快出台，但美国尚不具备强力推动人工智能监管法案的能力。欧盟在人工智能和数字领域迅速的立法进程，展示了对数据保护和隐私保护的高度重视，已成为硅谷的重要监管者。他强调，全球主要行为体都在加大对人工智能技术发展的投入和支持，除了政策、技术和产业的结合外，人工智能发展的未来将极大依赖于数据的质量和可获取性。虽然不同的行为体逐渐呈现不同的人工智能治理路径，全球人工智能的治理迫切需要国际合作和多利益相关方的参与，人工智能治理的阵营化、冷战化趋势需要得到进一步重视。

复旦大学发展研究院青年副研究员姚旭

复旦大学发展研究院自1993年成立以来，一直致力于成为国内高校智库建设的先行者和中国特色新型智库的探路者。作为首批上海市重点智库、中国十大最具影响力智库，我们坚持以多学科研究为特色，以一流的学术实践为动力，聚焦国家发展开展深度研究，紧扣发展、治理和安全三个关键词，在国家治理、社会治理、生态治理、网络治理和科技创新等领域形成了一系列面向世界和国家需求的学术研究和决策咨询成果。在“开放办智库”的理念下，复旦发展研究院也孵化了涵盖文理医工多个一流学科、近30个研究机构和实验室。“中美友好互信合作计划”是复旦发展研究院和丰实集团共同建设的政产学研媒有机结合的高质量学术平台。

主旨演讲嘉宾合影

研讨会会场照片