随着人工智能技术的飞速发展，通用人工智能（AGI）乃至超级智能（ASI）已不再仅仅是科幻想象，正逐渐成为需要严肃面对的现实议题。围绕这一议题，“上海论坛2025”分论坛“超级智能机器、技术想象与人类未来”于4月26日在复旦大学智库楼举办。

本次分论坛上，德国科隆大学和美国加州大学尔湾分校Sven Bernecker、德国卡尔斯鲁厄大学Christopher Coenen、韩国东国大学Young E. Rhee、西班牙马德里自治大学Alberto Suárez González，中国澳门大学教授王庆节、中国人民大学教授刘永谋、南京大学教授潘天群、上海交通大学教授闫宏秀以及复旦大学教授杨庆峰等9位专家围绕认知自主性、人类与智能体关系、非人类超级智能路径、人工智能有限主义、具身性与超级智能、超级智能对齐困惑、超级智能通路以及技术追问等超级智能关键议题发表精彩演讲。

《超级智能：少数派报告》在本次分论坛上发布。本报告由杨庆峰领衔，来自中山大学、苏州大学、上海社会科学院、复旦大学等高校教师参与撰写。报告内容分为超级智能的历史想象、现实分析与未来应对。报告认为，承认超级智能现实性的观点虽仍属“少数派”，但这部分意见却日益显现出其真理性和紧迫性，并提出，应将超级智能视为一个日益迫近的现实问题，而非仅仅停留在科幻想象或生存焦虑的建构层面。

该报告提出了超级智能的比较解释、实体解释和功能解释等类型；面对超级智能可能的风险，从技术、哲学和伦理三个维度提出了应对超级智能的综合方案。在技术层面，报告讨论了价值对齐、模型崩溃、模型蒸馏及科学家AI等策略；在哲学层面，探讨了存在的升级、风险控制及以人为目的等应对思路；在伦理层面，在反思美德伦理、责任伦理和设计伦理的基础上，创新性地提出了将“智能契约伦理”作为处理未来人类与超级智能关系的新伦理框架。

此次分论坛的举办及《超级智能：少数派报告》的发布，为理解和应对超级智能这一关乎人类命运的重大议题提供了重要的学术洞见和前瞻性思考，也为后续人工智能发展的政策制定和治理合作奠定了理论基础。