联合国伙伴关系办公室在开罗、墨西哥城、西安和罗马举行“人工智能与人类发展”全球对话。

图片来源：联合国伙伴关系办公室

过去几年，关于人工智能的全球讨论大体围绕两个问题展开。一个是AI能够做什么。随着模型能力快速提升，人们讨论人工智能能否提高生产率、推动科研突破、改善公共服务和教育，以及它还能在哪些领域替代或辅助人的工作。另一个是AI应该如何治理。围绕安全、隐私、公平、透明、知识产权和责任归属，各国不断建立新的治理框架。2024年联合国通过的《未来契约》（Pact for the Future）及其附件《全球数字契约》（Global Digital Compact），也是这一治理进程的一部分。

但报告认为，还有一个相对缺乏讨论的问题，即人工智能对人类发展本身意味着什么。当AI越来越深地嵌入生活，其影响已经不限于就业、生产率或能否接入技术。它还会改变人们如何学习、如何获得知识、如何形成判断、如何建立关系，以及哪些能力最终仍然需要由人自身掌握。换言之，问题已经从“我们能让AI做什么”，变成了“长期使用AI之后，人还能做什么”。

这也带来了对技术进步标准的重新思考。报告记录了两个方向相反的教育案例。一项在塞拉利昂1700所学校开展的人工智能辅导随机试验，报告称在较短时间内取得了相当于多学1.7年的学习增益；但另一项研究发现，学生在使用AI助手期间表现更好，一旦撤掉工具，反而比从未使用AI的学生表现更差。两者的区别不只在于AI有没有效果，而在于这种效果最终沉淀在机器上，还是沉淀在人身上。因此，与其持续比较AI系统本身的能力增长了多少，更重要的问题可能是，人的能力是否也随之增长。

四场对话中，一个词不断出现——“我们”（we）。参与者经常说，“我们”应该决定人工智能用来做什么，应该确定它遵循什么价值，应该建立边界。但每当这种表述出现，另一个问题也随之而来，即这个“我们”究竟包括哪些人。

目前，全球使用最广泛的一些人工智能系统，其价值选择、内容边界和行为规则，实际上由数量有限的企业和开发团队决定。与此同时，许多最终受到这些系统影响的人，并没有真正参与这些规则的形成。一位参与过价值观设定工作的发言者，认为这一过程“极不正当”。

报告讨论的不平等，并不只是能不能使用AI。一个国家即使大量使用人工智能，也可能仍然缺乏训练模型所需要的算力、数据、模型和技术能力。它可以成为AI最积极的使用者，却仍然生活在报告所说的“他人的想象”之中。参与者用知识主权（epistemic sovereignty）概括这一风险，即以自身语言和参照框架生产、解释、质疑并传承知识的能力，一个社会可以熟练使用人工智能，同时失去这种能力。

这一情形使数字鸿沟呈现出新的形态，即问题已不再局限于能否获取和使用AI，更在于一个社会是否具备影响AI背后数据、知识生产与价值塑造的能力。在参会者调查中，87%的人预计，未来五年AI会扩大国家之间以及国家内部的不平等。需要说明的是，这项调查只有54份回复，反映的是参会者的判断。对于如何解决这一问题，各地并没有形成一致意见。有人主张建设本国大模型、发展本土算力和数据能力；也有人认为，并非所有国家都有必要重复建设完整的AI基础设施，更现实的选择可能是发展模型适配、边缘部署和本地应用能力。

文化领域也存在类似分歧。一种观点认为，应尽快数字化口述历史、少数语言和文化遗产，让这些知识能够进入AI时代；另一种观点则认为，地方社区等有权拒绝将祖传知识交给人工智能训练。扩大“我们”，并不意味着寻找一个全球平均值，而是让那些承担技术后果的人能够参与定义问题、确定边界并影响解决方案。

在参与调查的与会者中，87%预计AI将在未来五年扩大国家之间或国家内部的不平等。

图片来源：联合国伙伴关系办公室《人工智能与人类发展：有目的的全球对话》

围绕人工智能与人的能力，报告特别指出，人工智能能力的提升并不必然转化为人的能力增长。参与者将人工智能对人的能力影响区分为三个层次。其一是技能退化（de-skilling），一个人原本掌握某项能力，长期把任务交给AI之后，逐渐失去这种能力。其二是结构性技能退化（structural de-skilling），当一个机构长期依赖人工智能完成某项工作，这种知识和能力可能不再存在于机构内部。其三是更值得警惕的从未形成技能（never-skilling），一项能力还没有来得及在人身上形成，就已经被人工智能替代。发言者认为，第三种对发展最为重要，而目前没有任何指标可以衡量它。

对于已经具备写作、判断或计算能力的成年人来说，AI可能意味着把已有能力部分外包；但对于儿童和青年，问题可能不同。如果一些认知过程在能力形成之前就被机器取代，人们失去的可能不是一项已经掌握的技能，而是形成这种技能本身的机会。

为了判断人工智能是否在帮助人的发展，诺丁汉大学马来西亚分校的Joanne Lim提出了三项检验。一是人们能否理解并质疑AI；二是即使没有AI，人们是否仍然能够有意义地完成相关任务；三是长期使用AI之后，人是否变得更有能力。按照这一逻辑，可以把AI能力和人的能力放在两个维度上理解。两者同步提高，是增强（augmentation）；AI越来越强而人的能力下降，则形成依赖（dependency）；人保持能力但完全拒绝技术，是以失去机会为代价的韧性（resilience）；两者都无法发展，则是排斥（exclusion）。调查中，93%的参与者预计AI能力还会继续提高，但只有35%相信人的能力也会同步提升。

这使教育成为最直接受到挑战的领域之一。如果获得答案越来越容易，教育的价值可能更需要回到判断、思考和能力形成本身。对于AI应当何时进入教育，参与者并没有达成一致。有人主张在儿童早期把AI挡在教育之外，也有人主张尽早引入，同时重新设计评估方式。尽管各方对引入时机存在分歧，但普遍强调教师的引导作用，以及人与人之间的互动关系不可被机器替代。

随着人工智能日益逼真地模拟人的语言、情绪与行为，传统上依据人机差异来界定二者边界的方式将面临挑战。报告因此记录了另一条界线，即人的特殊性未必在于能够表现出什么，而可能在于必须亲身经历什么。爱、悲伤、脆弱、照料、责任以及人与人之间真正的在场，都不是产生某种输出就能够替代的。AI可以生成听起来充满关怀的话，却并不感受关怀；它可以模拟陪伴，却没有经历人与人之间相互承担责任的关系。

因此，有参与者提出，可以把某些生活领域视为人工智能不宜进入的保护区（sanctuaries）。在后续调查中，与会者认为最应该保留无AI介入的领域包括涉及使用武力的决定、亲密和密切的人际关系、幼儿早期教育与发展，以及司法裁判和量刑。

四场对话还逐渐明确了价值取向，并形成了一份不断补充的红线清单。四项价值是人的尊严与能动性、真实与诚实、共同利益，以及人与人之间的联结。六条红线是不得自主使用武力、不得剥削儿童、未经同意不得冒充特定的人、在人们有理由期待是真人的地方、不得使用隐蔽的系统和不得进行大规模监控或社会评分，对产生重大后果的决定，必须保留一条回到人的申诉渠道。

同时，这有一个值得注意的重要变化。过去，人们通常依据AI能否达到特定性能标准来判断其应用价值。但报告表示，技术性能的提升并不意味着所有领域都应随之实现自动化。来自西安的一位发言者则进一步提出，应当限制的不是某些行为的结果，而是对其进行度量和排名的做法。对于情感、共情、亲密关系、人格与照料等领域，不宜设立排行榜、基准或优化指标，因为一旦这些维度被持续量化，便可能逐渐走向标准化和工业化。因此，需要守护的某些边界，并非AI目前尚不擅长的领域，而是即使AI能够胜任，也不应轻易交由其替代的领域。

人工智能经常以一种近乎无形的方式进入日常生活。用户看到的是对话框和模型输出，但支撑这些服务的是数据中心、电力、水、土地、芯片以及矿产资源。四场对话还反复聚焦于一个问题，谁在承担“智能”发展的成本。

报告援引与会者提供的数据指出，国际能源署估计，2024年全球数据中心耗电量约为415太瓦时，约占全球用电量的1.5%，到2030年可能增至约945太瓦时。水、土地和矿产资源的分布同样并不均衡，一些为人工智能基础设施提供资源的地区，恰恰是最缺少能力参与人工智能设计和价值分配的地区。这意味着AI的不平等不仅存在于谁掌握模型和算力，也存在于谁获得价值、谁承担成本。

报告记录了几种仍处于讨论阶段的方案：为人工智能计算建立统一的碳排放、水资源和热量消耗核算；在批准数据中心项目前，系统回答需要多少电、谁来支付，使用多少水和土地，当地经济能获得什么；要求AI企业披露完整的经济、社会、文化和环境足迹；甚至建立类似国内生产总值的新指标，衡量AI创造但传统国民账户无法捕捉的价值。这些建议没有形成统一方案，但共同指向一个问题，即如果人工智能的收益与成本都无法被准确看见，就更难讨论它们应该如何分配。

随着人工智能应用快速扩张，数据中心电力需求预计将继续上升。

图片来源：国际能源署（IEA）/ 联合国伙伴关系办公室

这份报告的一个特点在于没有试图制造虚假的全球共识。四场对话表明，国际社会在许多问题上仍存在明显分歧，例如主权大模型、介入儿童早期教育和文化遗产数字化等。但在时间问题上，参与者的判断更为接近。他们普遍认为，人类目前仍有能力影响人工智能的发展方向，但这一行动窗口正在逐渐收窄。在调查中，50%的参与者认为，真正能够塑造AI与人类发展关系的时间窗口不足12个月，另有31%认为在此基础上只多约一年。与此同时，仅15%的参与者认为所在社区的人能够理解AI如何影响自己，只有28%认为人们能够对AI作出的决定提出异议。

这种判断未必意味着人工智能将在某个具体时间点变得不可控制。它反映的更重要的问题是，技术变化的速度正在明显快于社会形成规则、能力和共同理解的速度。

报告最后提出的行动并不是马上制定一套统一答案，而是进一步扩大参与讨论的“我们”。2027年，联合国伙伴关系办公室将编写供国家和社区主导的对话使用的讨论指南，由联合国驻地协调员和国家工作队提供支持，并将相关成果用于2027年可持续发展目标峰会。前四场对话不断追问的是，究竟是谁在决定人工智能用来做什么；而下一阶段要追问的则是，当这个“我们”变得更宽时，会发生什么。