超越人工智能治理中的二元对立——穿越镜像迷宫

作者: 发布时间:2026-10-27 21:50:16 来源:全球人工智能创新治理中心+收藏本文

人工智能正日益融入人类获取知识与开展思考的过程。如何在充分发挥人工智能技术潜力的同时,保持人的主体性与独立思考的能力,并有效应对由此带来的安全与伦理挑战,已成为人工智能治理的重要议题。


2026年10月20日下午,全球人工智能创新治理中心特别邀请剑桥大学教师、咨询公司Resilia Connect创始人Moona Ederveen-Schneider作题为“超越人工智能治理中的二元对立——穿越镜像迷宫”的专家讲座分享。本次讲座由全球人工智能创新治理中心秘书长、复旦发展研究院副研究员姚旭主持。


图片

Moona Ederveen-Schneider作主题讲座分享


讲座伊始,Moona Ederveen-Schneider以“AI之镜”“AI之影”和“镜像迷宫”三个意象为切入点,探讨人们理解人工智能的不同视角。她表示,将人工智能简单视为被动工具,或仅因其表现出类人特征便认定其具有主观体验,都可能限制人们对技术的理解。由此,她提出“AI心智”这一功能性概念,用以描述AI整合人类积累的知识、建立跨领域联系并参与对话的能力。同时,她强调这一概念并不意味着AI具有意识或主观体验。


围绕人机协作,她以“AI之影”描述人类与AI在持续对话、追问和纠正中共同形成认知成果的过程。她认为,AI的信息整合能力可以帮助使用者从不同角度审视问题,但使用者仍需主动判断和核验其输出,避免将思考过程过分交由技术完成。


图片

讲座现场图


她进一步借用《彼得·潘》中影子脱离主人又重新缝合的情节,提醒过度依赖AI可能导致认知惰性与偏差。她认为,AI治理既需要通过审计、安全护栏、红队测试和人工监督等措施防范风险,也应坚持以人为本的理念,推动AI在教育、照护和知识普及等领域发挥积极作用,使更多人公平共享技术进步带来的收益。


在交流环节,现场嘉宾与听众围绕全球南方人工智能治理、技术主权、人机协作与教育等议题展开讨论。


图片

Moona Ederveen-Schneider和中心秘书长姚旭与观众交流


针对人工智能技术主要由少数国家和企业开发可能带来的局限,现场观众提出,相关模型可能难以充分理解不同地区的文化背景与社会情境。围绕这一问题,讨论进一步延伸至技术主权、模型可及性与本地化适配等议题。Moona认为,高质量的人机互动离不开使用者的批判性提问与持续参与,在人工智能不断发展的背景下,人类仍应保持对技术应用的主导权。


图片

现场观众交流提问


同时,现场观众还就人工智能快速发展所带来的复杂安全挑战及其治理路径提出疑问。Moona表示,人工智能安全问题涉及技术发展、社会影响与人类价值等多个层面,难以通过单一措施或简单方案加以解决。面对技术能力不断演进所带来的不确定性,治理不仅需要关注具体风险的识别与防范,也需要在不同主体、不同社会情境与多元价值诉求之间寻求理解与共识。她强调,应通过持续对话增进不同群体之间的相互理解,通过深化合作探索共同应对风险的可能路径,为人工智能治理创造更加开放、包容的协作环境。


最后,讲座在交流讨论中结束。


图片

Moona Ederveen-Schneider与参会观众合影留念


原文链接:https://mp.weixin.qq.com/s/-Iseg5UZQXibXtx401vLcQ?scene=25&sessionid=#wechat_redirect