观点|杨庆峰:从契约意象看超级智能与后人类

作者:杨庆峰 发布时间:2023-10-15 来源:《中国社会科学报》2023年10月13日第2750期+收藏本文

20世纪80年代,哈拉维(Donna Haraway)发表了《赛博格宣言》,设想了未来人类的样态,使得关于后人类的讨论获得了一个哲学上的可能性。在她看来,未来人类是一个复合体,是一种集机器、动物和人类机体于一身的存在形态。她指出,赛博格是一个控制论意义上的有机体,是机械和有机体的混合物。它既是社会现实的产物,又是科幻小说的产物。哈拉维那句“我们都是赛博格,赛博格就是我们的本体”,使得众多学者惊醒,对此爱不释手。但这个观念毕竟是几十年前提出来的,存在着两个局限。


第一,技术局限。近几十年来,各种新技术已经翻新,逐渐改写了哈拉维给我们塑造的未来人类形象。比如,人工智能以及在增强技术名义下的各类技术类型。各种机器人逐渐进入人类社会,虽然还没有改变人类的身体形态,但是却呈现出人类与机器人相处的问题。此外,侵入式脑机接口技术逐渐突破技术限制和伦理法律限制,使得这种技术开始有了运用到现实生活的可能性。精确机器人植入脑机接口(PRIME)研究已于今年获得独立的机构审查委员会批准,R1机器人将通过手术把N1植入物的超细且灵活的线放置在控制运动意图的大脑区域中,植入脑部的芯片和人类大脑以一种奇特的方式组合在一起。然而,这种描写简化了真实的情景,在现实中应用可能仍存在不少风险。不过,基于各种外骨骼技术(如装在身上的机械臂、第六指等)的混合形态或许更具实用性,这可以装备在身体上,也可以卸下。此类技术不像侵入式技术那样,一旦植入很难除去。


第二,实体论局限。哈拉维所提到的赛博格,本体是一种机械和有机体的混合,它的出现具有一定的现实基础。比如,在很多医学实践中,病人植入假肢、人工器官、支架等医学器具,这种医学器械是为了维持病人日常生活质量,甚至是维系生命的必然选择。但是,如果去除这个语境,我们就可以看到一个抽象的、可以用于未来的人类叙事。不过,哈拉维的观念有个很强的实体论预设:未来身体的形态发生变化,能够实现有机体和无机体的界限突破,从而使人类生命能够得以延续。通过强硬的植入、组合,人类的身体形态发生变化,成为一种奇特的存在。这个叙事能够唤起人们的未来想象,甚至与一些对未来的设想相吻合。但是,这无法形成一个有机的融合,只是保留在一种异质组合或混合的状态。所以,这样一个实体论预设的后人类设想是有问题的。我们需要找到一种新的根据来描述后人类形象,并且我们希望也能够对超级智能进行一番思考。这种新的根据来自文化意象(而非哲学理念),我们选取契约意象作为这样一个根据。


西方有着这样一种文化现象:人类和魔鬼签约,出卖自己的灵魂,获得欲望的满足或者超能力。比如,歌德在《浮士德》(1768)中这样描述魔鬼梅菲斯特的许诺:让他体验到前所未有的体验,但是他要出卖自己的灵魂,而且要用一滴血签订一个契约。当契约签订之后,魔鬼让浮士德满足所有的愿望,浮士德则出卖自己的灵魂,失去自由。这种契约精神背后是一种超越性的理性精神,但是这种理性精神并非个体独有,而是建立在独有个体之间的理性商议基础之上,这就是契约意象。这种人与非人主体之间的契约是西方社会中的一个文化现象,而我们在现实中通常接触到的是人与人之间的契约。《重生男人》(2007)就是建立在这个基础上的科幻电影:未来社会,人类与Union公司建立分期购买人工器官协议,签约者受制于自己的状态,如处于疾病状态或面临死亡威胁,要延续生命必须签订购买协议,一旦逾期则会有专门的人来收走人工器官。影片提出了这样一个伦理问题:如果还不起贷款,人工器官(如肝脏或心脏)就会被收走,这会严重影响被执行人的生命。


契约意象是西方文化中一个有趣的现象。其存在的问题在于:一旦契约签订,就会为后果负责,如被惩罚、出卖灵魂或被取回器官。在《浮士德》中,一旦浮士德违背契约,就会失去灵魂自由。在《重生男人》中,一旦无法按时还贷,就要被收走人工器官。在现实社会中,一旦违反契约合同,也会被收走财物等。当契约不触及生命本身时,人类社会可以按照契约运行。但是,在触及生命本身时,就会碰触隐藏的伦理难题。如果各类机器人、算法、超级智能等没有触及人类的生命本身,那么建立在人类和超级智能之间的契约将会使未来社会有效运转,并且这可以使关于超级智能的契约具有谈论的基础。不过,这种契约并非人与人之间,而是人与非人的超级智能之间的契约。


当我们从契约意象来看超级智能与后人类时,一个可能性就展开了。后人类并非仅仅是身体形态发生实体性变化,还是哈拉维的实体性规定所忽略的关系性存在。关系性存在指向当前一个人们非常熟悉的问题:人类智能是否会被机器智能超越和取代?关于这个问题存在两极对立的情况。一种立场是,人类不会让这种情况发生,因为可以通过设计、法律等各种方式来避免。这一立场有着强硬的人类中心主义设定,人们通过设计使得算法避免偏见和错误,通过法律来使得人工智能伦理遵循人类的价值框架。但李飞飞等科学家的研究已展现了人工智能可以通过类似动物进化的方式完成进化,它能够在特定身体形态的帮助下完成特定任务。另一种立场是,奇点在未来会出现,人工智能终将超越甚至取代人类。而且在现实中,这一切正悄然发生着。以生成式人工智能为例,当前一些人工智能咨询医生已表现出比人类医生更多的共情能力。这意味着,在心理咨询以及与医疗有关的咨询领域,人工智能咨询医生可以比人类更好地完成任务,甚至取而代之也已不言而喻。未来超级智能诞生的迹象已显露出来。如今,科学界已勾勒出超级智能诞生的三条路径:通用路径、交互路径和具身路径。哲学反思应建立在这样一个前提下,探索“未来会发生什么”“人类如何应对超级智能”等问题。


超级智能的出现,会是潘多拉盒子还是薛定谔盒子,这并不明确,只是打开这样一个结局可能已然确定。超级智能可以实现人类特定能力的增强。比如,利用聊天型人工智能,可以使人们的写作能力获得提升,甚至增强批判性思维能力;利用智能肢体,可以使人们增强身体运动的自由度,能够远程操控外太空的飞船;甚至利用脑机接口技术,可以解读人们曾经观看过的文本或视频。超级智能可以让这一切都得以发生,这是它能够带给人类的东西,如同梅菲斯特的许诺。如今,科学家已将果蝇的大脑神经网络给予了人工智能,并且表现出了很高的效率。下一步,人类的大脑或许会成为人工智能发展的特定神经网络。


增强自己是人类甚至后人类的内在需求,但最大的一个担忧是丧失自由。浮士德的遭遇让我们担忧自己也会在面对超级智能时丧失灵魂自由。但如果并不触及灵魂而只是有条件出让自己的身体,更为准确地说是神经网络,那么这在道德上或许是可以接受的。在未来时代,情况或许不像我们想象得那么糟糕。一种情况是:人类与超级智能签订契约。人类只需要有条件地出让自己的神经网络,使超级智能得以继续进化,从而获得自身增强能力的实现。一旦出现偏差,可以终止契约。根据这样一个契约,在未来社会中,后人类与超级智能之间的关系能够以一种合乎人类的契约关系被关联起来。这样,建立在超级智能与后人类关联基础之上的契约伦理学就成为可能。这种契约伦理学具有四种特征:调节超级智能与人类的关系;基础范畴是人类自愿;哲学基础是“生命体的连续性”;建立在增强智能规范中“共在”维度上的结果。“契约优于责任”可能才是我们能够适应并面对超级智能、更好迈向后人类时代的伦理学体系的基础,我们需要对此进行更为细致而深入的思考。


(本文系国家社科基金重大项目“当代新兴增强技术前沿的人文主义哲学研究”(20ZD&045)阶段性成果) 

(作者系中国科协—复旦大学科技伦理与人类未来研究院研究员、教授)