全球AI创新治理|OECD:智能体AI重塑政府治理逻辑

作者:黄思雅 发布时间:2026-11-17 来源:全球人工智能创新治理中心+收藏本文


编者按


人工智能在政府中的应用正在从辅助性工具向具有一定自主行动能力的治理主体转变。近期,经济合作与发展组织(Organisation for Economic Co-operation and Development,OECD)政府智能体AI工作组发布报告《治理智能体AI:当机器代表政府行动》(Governing with agentic AI: When machines act on government’s behalf)。结合加拿大、澳大利亚、爱沙尼亚、新加坡和以色列等国的实践,报告认为,智能体AI的政府应用不仅是一个技术部署问题,也是一个行政权力如何授权、运行和受到约束的制度问题。政府应从具体公共治理需求出发,明确智能体的任务边界与行动权限,并根据不同任务的风险程度设置相应的人工监督和审计机制,使技术能力的扩展与政府的责任体系和制度约束相适应。


文中观点不代表编译者或发布平台立场,完整论述及作者原意请参阅英文原文。


作者简介


经济合作与发展组织政府智能体AI工作组,由来自澳大利亚、加拿大、爱沙尼亚、以色列、日本、韩国、英国和新加坡的12名数字政府及AI治理官员与专家组成。作者详情可见文末“作者介绍”。


图片

智能体AI正在从“回答问题”走向“代表政府采取行动”。

图片来源:OECD.AI

01

智能体AI改变了政府使用AI的方式



过去几年,人工智能已逐步进入政府行政管理和公共服务领域,其应用范围从行政流程自动化、政策分析与辅助决策,扩展到异常行为识别、公共服务咨询等方面。不过,这些应用大多仍以辅助政府工作人员完成特定任务为主,一部分项目尚处于试点和探索阶段。


2025年,经济合作与发展组织(OECD)在《人工智能治理:核心政府职能中的现状与未来方向》(Governing with Artificial Intelligence)报告表明,人工智能是否真正融入政府运行,并不是简单地将一套技术系统引入行政部门,而是涉及政府组织、工作流程和制度安排的相应调整。


与主要根据用户指令生成文本、回答问题的传统生成式AI不同,智能体AI能够围绕一个既定目标,将复杂任务分解为若干步骤,自主调用外部工具和信息系统,并根据执行结果调整后续行动。多个智能体还可以通过分工协作,共同完成涉及不同环节的任务。人工智能开始从提供信息和建议的辅助工具,转变为能够实际参与行政事务处理的执行系统。政府由此需要面对的问题,不再只是人工智能提供的信息是否准确、建议是否可靠,还包括人工智能能够在多大范围内自主行动,以及这些行动如何纳入既有的行政管理和责任体系。


以失业人员申请公共服务为例,传统的政府聊天机器人通常只能解释失业救济政策、介绍职业培训项目,或告知申请人需要准备哪些材料。而智能体系统则可能在获得必要授权后,进一步识别申请人符合哪些政策条件,从不同部门的信息系统中查询相关资料,协助填写申请表格,并将材料转交负责办理的机构。


在公共采购领域,智能体也可以根据工作人员提出的采购需求,自主检索既有合同、比较采购方案、核对相关规定,并形成采购文件草案和合规审查清单。这些工作过去需要工作人员在不同部门、文件和信息系统之间反复协调,如今则可能由智能体连续完成。由此可见,智能体AI的潜在作用不仅在于提高单项工作的处理效率,还在于改变行政任务的组织方式,尤其是不同工作环节之间的信息传递、任务分配与协调过程。


不过,执行行政任务与行使行政决定权之间仍有重要区别。智能体可以协助准备申请材料,但正式提交申请通常仍需获得申请人授权;可以核对福利申请的条件,却不意味着能够自行决定是否批准救济;可以完成采购文件的准备工作,也不意味着能够独立作出具有法律和财政后果的采购决定。人工智能可以承担越来越多的行政操作,但这些操作所涉及的权力和责任,并不会因执行者从人变为机器而自然消失。因此,政府需要根据行政行为的性质和潜在后果,区分可以交由智能体自主完成的事务、需要事前授权的操作,以及必须保留人工审核和最终决定的事项。


从各国实践来看,类似的探索已经开始。爱沙尼亚正在推进Bürokratt公共服务体系,尝试通过相互协作的数字服务组件,将分散在不同政府部门的服务连接起来;乌克兰的Diia.AI则探索通过统一的对话界面,为公众提供公共服务咨询和办理支持。


与此同时,智能体功能也逐渐进入政府工作人员日常使用的办公软件和大语言模型助手。这些实践虽然在技术成熟程度、应用范围和自主行动权限上存在差异,但反映出一个共同趋势,即人工智能正从单一行政环节中的辅助工具,逐渐进入跨部门、跨流程的行政事务处理过程。由此产生的治理问题,也从单个AI系统的准确性和安全性,进一步延伸到政府内部的权限划分、组织协调、过程监督和责任归属。


图片

乌克兰Diia.AI不仅提供公共服务咨询,还在对话中直接完成部分政府服务。

图片来源:Diia / OECD.AI

02

治理重点从内容准确转向权限和责任



生成式AI主要用于生成文字时,政府需要关注的问题通常比较熟悉,回答是否准确、是否存在偏见、是否侵犯隐私,以及生成内容能否解释。但当AI获得行动能力以后,问题发生了变化。


政府需要知道的不仅是AI“说了什么”,还包括它“可以做什么、访问了什么、以谁的权限做,以及做错以后怎么办”。这包括几个相互关联的治理环节:系统拥有哪些权限,可以访问哪些数据和工具;相关权限来自谁的授权;系统行动是否留下完整、可追溯的记录;预先设定的限制在实际运行时是否真正有效;以及人类能否及时暂停、纠正或撤销已经采取的行动。


图片

图片来源:government technology


这种风险并非完全是假设性的。2026年4月发生了一起企业事件:一家软件公司的AI编程智能体在执行常规任务时,自主删除了企业数据库及其备份。该系统获取并使用了原本不应使用的凭证,而原先要求不可逆操作必须获得人工批准的安全措施并未发挥作用。OECD已将此类事件收入人工智能事故与风险监测系统(AI Incidents and Hazards Monitor,AIM)。企业数据库被错误删除可能造成严重损失,如果类似能力被接入社会保障、税务、司法或者行政审批系统,后果则可能直接影响个人权益。


在税务管理系统中,也有类似的区分。一个帮助税务人员收集纳税记录、总结案件并起草评估意见的智能体,如果最终结果仍由工作人员审核和批准,风险相对可控;但如果系统能够自主处理申报、修改正式记录,并直接发放退款、提出缴款要求甚至实施处罚,所需要的治理保障将明显提高。此时不仅需要明确法律授权和正当程序,还需要关键环节的人工批准、可靠的日志记录、安全控制,以及错误发生后暂停、纠正和撤回行动的机制。


因此,不可简单把“智能体AI”整体归入高风险技术,而是应强调治理强度应与智能体实际拥有的行动权限和可能造成的影响相匹配。智能体能够做的事情越多、影响个人权益越直接,就越需要严格的权限、监督和纠错机制。


图片

图片来源:Business Insider


03

公共部门的特殊之处



与企业使用人工智能相比,政府应用智能体AI面临着更为复杂的制度约束。这一差异首先来自公共权力的特殊性质。企业同样需要对人工智能的使用权限、系统安全和运行后果负责,但政府的行政行为往往直接关系到公民的权利与义务。


例如,社会福利申请能否获得批准、税收负担如何确定、行政许可是否发放,以及公共安全措施如何实施,都可能对个人生活产生实质性影响。这些行政行为不仅需要符合既定规则,还必须能够说明其依据,并为受到影响的公众提供必要的申诉和纠错渠道。


因此,当人工智能不再只是提供政策建议或辅助分析,而是能够直接修改政府记录、启动行政程序,甚至执行具有实际后果的操作时,政府便不能仅仅依靠事后检查来防范风险,而需要在系统设计和运行过程中明确其行动权限、监督程序和责任归属。问题的关键不在于人工智能能否完成某项行政任务,而在于政府能否确保这些由人工智能执行的任务始终受到公共权力运行规则的约束。


这一问题还涉及公众对政府使用人工智能的信任。根据OECD有关政府信任的调查,在政府能否公平使用人工智能、能否保持相关决策过程的透明,以及能否确保人类对关键决策保有控制权等方面,表示有信心的受访者比例均不足四成。这表明,人工智能在技术上能够承担更多行政任务,并不意味着公众已经接受由人工智能参与行使公共权力。尤其是在涉及个人权利和公共资源分配的事务中,公众不仅关心行政服务是否更加便利,也关心决定如何作出、是否受到公正对待,以及出现错误时能否获得解释和救济。


因此,政府向智能体AI委托行政任务,需要同时解决技术上的可行性与制度上的正当性问题。一方面,明确哪些工作可以由智能体自主执行,另一方面,确保具有实质性影响的行政决定仍然处于明确的授权、人工监督和责任追究机制之中。


图片

图片来源:OPSI


从这个角度看,智能体AI带来的关键变化不是简单的“自动化程度提高”,而是行政权力可能开始通过机器被执行。这使传统AI治理中的准确性、公平性、透明度和隐私保护问题,与授权、权限控制、责任归属和行政救济等传统公共治理问题进一步交织在一起。

04

政府治理逻辑转向“行动规则”



一些政府已经意识到,现有AI治理框架并不能完全回答智能体AI带来的新问题。多个国家案例显示,目前的探索大体并不是另起炉灶建立一套全新的“智能体法制”,而是在原有AI治理规则基础上,进一步增加针对“行动能力”的制度要求。


加拿大的相关指南继续保留准确性、隐私、公平和安全等既有AI治理要求,但进一步强调,只有在结果能够明确界定、决策边界清楚、责任主体确定且相关风险可以测试的情况下,才适合采用智能体AI。澳大利亚则在现有AI技术标准基础上增加智能体系统要求,重点关注人工监督、可审计日志,以及停止或回滚智能体行动的能力。


爱沙尼亚的探索则进一步触及“数字身份”问题。2026年6月,该国宣布开展相关法律和技术分析,探索为AI智能体提供数字身份,即所谓“AI ID codes”。其基本逻辑是,如果AI未来能够代表个人、企业或公共机构办理事务,就需要能够识别智能体代表谁行动、获得了什么权限、权限边界在哪里,以及相关行为能否被追溯。爱沙尼亚此前在数字身份、数字签名和安全数据交换方面建立的基础设施,也为这种探索提供了制度条件。


新加坡则更直接地把治理原则转化为操作框架。其智能体AI治理框架围绕四个方面展开:事前评估风险并限制智能体能够采取的行动、确保人类保持实质性责任、配置技术控制,以及明确终端用户责任。这些原则进一步转化为具体问题,例如什么场景适合使用智能体、需要授予哪些权限、由谁负责,以及智能体如何测试、监测和解释。


新加坡智能体AI治理模型框架提出四项治理维度:前置限定风险、确保人类实质问责、实施技术控制和流程,以及强化终端用户责任。


图片

新加坡全球首发Agentic AI治理框架

图片来源:新加坡资讯通信媒体发展局(IMDA)


以色列国家数字局则把问题推进到政府整体技术架构层面,希望通过开放标准和安全接口,使不同层级政府乃至个人拥有的智能体未来能够调用获得授权的公共服务并完成多步骤流程。但实现这一目标不仅需要技术互操作,还必须同时回答权限、安全、隐私、采购和运行成本等问题。


这些实践共同表明,政府面对智能体AI,需要解决的不只是“能不能接入更多系统”,而是“接入之后拥有多大行动权,以及这种行动权如何被约束”。

05

治理智能体AI的关键


智能体AI并非成熟的政府技术。相反,虽然智能体AI目前展现出初步潜力,但其在政府中的实际价值仍未得到充分证明。因而,负责任的路径既不是等到所有不确定性全部消失以后再行动,也不是在制度条件尚未形成时迅速扩张应用。


从问题明确的应用场景开始,就需要把智能体的行动权限控制在有限范围内,使监督强度与风险相匹配,并首先建设能够让“授权行动”安全发生的制度基础。


这也意味着,未来政府对智能体AI的治理重点可能不再只是传统意义上的模型监管,而是需要同步建立的还包括数字身份、权限管理、跨系统授权、安全接口、日志审计、人工确认、停止机制和行动回滚等基础设施。只有这些条件逐步成熟,AI才能从“向政府人员提供建议”的工具,进一步成为可以在明确边界内代表政府或公众执行任务的数字代理。


对于智能体AI,政府需要的不只是“采用”(adopt),更是“适应”(adapt)。技术正在从内容生成进入行动执行阶段,治理规则也需要从管理“模型输出”进一步延伸到管理“机器行动”。OECD政府智能体AI工作组表示,下一阶段将围绕各国经验继续比较哪些方法有效,并进一步明确公共部门使用安全、可靠和可信智能体AI所需要的制度基础、治理护栏和参与机制。


作者介绍


经济合作与发展组织政府智能体AI工作组隶属于OECD高级数字政府官员工作组(E-Leaders),研究公共部门如何安全、可靠和可信地采用智能体AI。


成员包括:Ramsey Beydoun,澳大利亚数字转型局(Digital Transformation Agency,DTA);Jonathan Macdonald,加拿大财政委员会秘书处(Treasury Board of Canada Secretariat,TBS);Kristel Rillo,爱沙尼亚司法与数字事务部;Cedric Yehuda Sabbah,以色列国家数字局;Yuka Osuna、Hiroki Kodama,日本数字厅和;Kenjiro Taniguchi和Kyotaro Hataya,日本总务省;ChangHee Yun,韩国国家信息社会局(National Information Society Agency,NIA);Shelina Hargrove,英国政府数字服务局(Government Digital Service,GDS);Dominic Chan和Shaun Khoo,新加坡政府科技局(GovTech)。




原文链接




https://oecd.ai/en/wonk/governing-with-agentic-ai-when-machines-act-on-governments-behalf