
与 ChatGPT 等大语言模型停留在围绕 “提示—响应” 框架展开的对话交互不同,OpenClaw 将大语言模型接入搜索引擎、浏览器、文件系统、终端命令行、日历、邮件与外部 API,使 AI 从 “会说话的机器” 演化为 “会行动的员工”。[5] 用户仅凭自然语言下达指令,智能体即可跨越应用软件沙箱,自主完成复杂的跨平台搜寻与操作。大模型时代改变的是信息生产方式,智能体化浪潮改变的则是行动的组织方式。随着智能体自主性的持续扩张,技术系统不再仅仅作为信息处理工具存在,而是以自主行动者的姿态嵌入数字传播的基础设施之中。这种转变也改变了风险的本质,AI 聊天机器人可能会 “说错”,智能体则可能会 “做错”,从而造成由信息偏差到行动失控的后果。对此,本文以贝尔纳・斯蒂格勒的技术药理学为理论支点,对自主性智能体的技术形态展开审视,系统考察自主性智能体扩张与数字行动秩序重组之间的内在张力。
斯蒂格勒基于 “药物”(pharmakon)这一理论概念,指出任何技术天然地同时携带双重属性,既是药,又是毒。[6] 作为 “药”,智能体通过自动化执行、跨工具调用与连续任务处理,将人类从繁复、重复且碎片化的操作链条中部分解放出来;作为 “毒”,智能体的自主性扩张则可能在提高执行效率的同时,导致人类主体在不知不觉中丧失了对行动后果的实时掌控与伦理把关。本文以技术药理学为贯穿全文的分析框架,尝试围绕其行动边界的规范性探讨以下问题:其一,自主性智能体在人工智能技术演进中呈现出何种新的技术形态与生成机制?其二,这一技术形态在能力扩展的同时可能引发哪些新的伦理风险与治理难题?其三,面对智能体自主性扩张所带来的不确定性,如何在制度层面重构治理边界,以平衡技术潜能与公共责任之间的关系?
二
何以为 “药”:人工智能技术的范式迭变与能力外化
西蒙东在《论技术物的存在模式》中将技术物的演化理解为由 “抽象” 趋向 “具体” 的过程,即技术进步并非功能的外部累加,而是内部结构、操作机制与关联环境之间不断协调、耦合与重组的过程。[7] 由此观之,AI 的进化也不能简化为模型性能的线性提升,而应理解为底层生成机制的结构性重组。因此,分析自主性智能体何以为 “药”,还需回到其能力生成过程之中,通过回溯 AI 技术条件的演进路径,探讨每一次技术重组如何重新规定技术与现实之间的关联形态。
以符号主义和专家系统为代表,AI 范式的理论源头通常追溯至达特茅斯会议所确立的研究纲领以及纽厄尔、西蒙所提出的 “物理符号系统假说”。[8] 该阶段围绕 AI 的核心设想将知识表示为符号结构,并为其配置相应的逻辑规则与搜索机制,使机器能够在形式系统内部模拟人的推理过程。此时的 “智能” 在本质上指向规则操演能力,技术承担着将人类思维形式化为可计算推演链条的任务。这一路径虽逻辑透明、可解释性较强,控制边界也相对清晰,但由于高度依赖人工编码,系统面对开放环境中的模糊性、情境性与知识更新问题时常常难以有效回应。正如德里达所言,“一切意义都在符号系统中生成”。[9] 基于符号主义的 AI 所建构的世界是基于 “文本” 的想象,现实首先被视为能够加以命名、归入类别并纳入演算程序的秩序,而流动性、噪声与偶然性则被排斥在系统之外。
AI 的二次革新由连接主义所推动,在 Transformer 架构与大语言模型出现后达到新的高峰。与符号主义预先写出规则不同,深度学习更强调通过海量数据训练让模型自动学习多层次表征,并在参数空间中形成对输入模式的高维映射。深度学习研究的奠基性学者 LeCun、Bengio 与 Hinton 将上述突破概括为 “表示学习” 能力的跃升。[10] 随着这一能力向自然语言处理与通用生成任务扩展,模型架构也需要更有效地处理长距离依赖与大规模并行训练问题。Vaswani 等人提出的 Transformer 通过自注意力机制显著增强了长距离依赖建模与并行训练能力,为后来的通用大模型奠定了架构基础。[11] 在该阶段,AI 的生成逻辑已从 “根据规则推出答案” 转向 “依据统计关联生成输出”,其核心是通过大规模数据压缩形成可迁移的语义表征,由此展现出强大的文本、图像和代码生成能力。因此,深度学习时代更接近于对世界表征的重组,技术不再逐条解释世界,转而以概率方式拟合世界。然而必须指出,内容生成与行动生成之间仍存在本质差距。大模型在语言理解、推理组织和多模态表达上虽已嵌入了人的认知与表达过程,构成了 “人—媒介” 融合的新形态 [12],但总体上仍停留在输出端,通常不直接进入现实系统承担执行责任。正因如此,大模型的广泛应用虽极大扩展了 AI 的认知外延,但技术总体仍停留为意义生产与认知外化的 “器官”,尚未真正改写生成与行动之间的制度与技术边界。[13]
当下所谓的 “智能体转向” 标志着 AI 进入第三次范式转换,大语言模型的推理能力开始接入系统级工具调用、状态记忆、环境反馈和任务执行,由此形成新的行动生成结构。智能体构成了新的复合技术结构,模型负责推理与决策,工具系统负责操作与反馈,记忆机制负责状态保持,环境接口则将技术输出转化为现实后果。以 OpenClaw 为例,该智能体系统已具有超出单一产品层面的历史意义,在 “赛博格关系” 意义上表现为更深层次的人机融合。[14] 技术开始嵌入人的感知与行动过程之中,从而使有机体与机器、主体与媒介之间的边界趋于模糊。就此而言,OpenClaw 以 “行动性媒介” 的形式嵌入 “人 / 媒介→世界” 的关系链条,使技术不再停留于认知支持与意义生产层面。[15] 这种能力的外部化与再分配正体现了技术在增强(augmentation)与解放(liberation)层面的积极潜能,将原本分散在人类主体身上的搜索、判断、调用、操作与反馈环节重新编织为连续的技术过程,由此减轻重复性劳动,扩展行动半径,提升复杂任务的组织效率。技术通过外化人的能力,为主体释放出新的行动余裕,使其得以从低层级操作中部分抽离,并在更高层级上重新组织目标设定、过程监督与价值判断。
本文将三次范式转变的差异概括如表 1。若从历史比较的视角将媒介视作 “人的延伸”,AI 的发展实则是 “延伸” 方式的连续变形:首先以 “思维的外化” 延伸理性的形式,再以 “认知的外化” 延伸感知与表征,最终以 “行动的外化” 推动人与技术由工具性关联迈向代理性耦合。[16] 也正是在此意义上,媒介形态的变化总会重组人与世界之间的关系格式——印刷术塑造了线性思维,电子媒介调整了感知比例,而智能体则进一步改变了行动的组织方式。[17] 至此,人与技术的关系逐渐转向围绕目标设定、任务执行与环境反馈展开的代理性耦合,呈现出 “新媒介即人” 的趋向。[18] 智能体的 “药性” 在这一进程中也逐渐显现,通过行动能力的外化使技术从意义生产工具转向行动组织媒介,并扩展了主体处理复杂任务与推进实践过程的能力。

三
何以为 “毒”:自主性智能体的伦理风险与内在异化
随着 AI 由内容生成迈向任务执行、由辅助决策迈向环境介入,智能体逐渐从承载讯息的媒介转化为能够组织流程、调用工具并实施行动的技术性代理。行动能力的外化原本构成技术赋能的基础,却也在更深层次上重组了主体与技术之间的关系,使技术进步的代价逐渐 “内生” 于智能体的运行机制之中。由此,智能体的伦理风险不只是技术应用后的外部后果,而是行动代理机制内部的结构性张力,对其伦理审视也需要从传统信息媒介伦理和算法偏差治理,进一步转向行动边界、认知判断与责任结构等核心问题。[19]
(一)代理机制:行动权限与边界问题
自主性智能体的伦理风险正是源于其技术存在方式的根本变化。智能体具备跨工具、跨数据、跨环境的操作能力,已经构成一种社会技术系统(socio-technicalsystem),其行动能力的获得则改变了 AI 风险图景。[20] 当智能体模型获得任务分解、工具调用、代码执行、文件访问乃至操作系统控制等能力后,任何理解偏差、上下文错位或目标拆解失当都可能沿着工具链、权限链与反馈链持续扩散。原本局部的推理偏差经由一连串看似合理的操作步骤,最终可能转化为超出原始错误规模的现实后果。
近年的智能体研究与评测也显示,代理型系统通常将文本推理与外部工具调用结合起来,并在状态化环境中完成多步骤任务。[21] 这种结构虽提升了任务处理能力,却也使风险具备链式扩散特征。进一步而言,系统在开放环境中行动时,单次错误会嵌入连续执行过程,从模型理解任务、选择工具、传递参数、根据反馈继续行动,每一个环节都可能生成新的偏差,并在后续步骤中被放大。正因如此,从技术存在方式看,智能体已经超出被动执行媒介的范围,它在特定目标约束下获得了阶段性的流程组织权与路径生成能力,并能够在时间中持续推进任务结构。这一存在方式的变化使 AI 的核心议题发生了清晰的层级迁移,早期规则系统强调规则正确性与系统可靠性,机器学习与大模型阶段聚焦数据偏见、内容安全与虚假生成,智能体阶段则进一步触及权限治理、行为审计、风险隔离、人类监督与责任分配。行动代理机制带来的核心问题正是行动权限如何配置、行动边界如何设定,以及行动后果如何被追踪与承担。
(二)认知机制:意义生成与情境问题
自主性智能体的行动能力 “内生” 于深刻的认知张力之上。大语言模型作为智能体的核心推理基础,其底层运作机制本质上仍是对海量语料的统计建模与概率生成。系统固然能够在局部操作层面表现出高度的功能性胜任,却缺乏对行动所嵌入之意义语境、伦理边界与社会后果的真正理解。而单纯依赖语言形式的学习在意义生成上可能存在局限,这一现象通常被自然语言理解领域界定为 “锚定问题”,指语言符号、模型表示与外部世界之间形成稳定对应关系的过程。[22] 对于人类而言,语言意义通常嵌入身体经验、社会互动、制度规则与具体情境之中。但对于主要依靠文本数据训练的模型而言,词语之间的统计关联虽能生成流畅表达,却难以保证系统真正把握这些表达所指向的对象、情境与规范要求。换言之,模型能够在形式层面完成匹配,却未必能够把语言形式稳定连接到现实世界中的具体后果。因此,智能体通过工具调用获得了与外部环境交互的通道,但这种交互大多仍属于程序性操作,缺少人类意义上的反思性判断。
就此,约翰・塞尔的 “中文屋” 思想实验具有了新的解释价值:一个不懂中文的人待在房间内只依据规则手册处理汉字符号,外部观察者可能认为他 “懂中文”,但其内部过程只是形式符号的操纵。[23] 类似的,智能体可以生成表面合适的响应并执行复杂任务,但对其是否具备意义层面的真正理解,学界迄今尚无定论。正因如此,自主性智能体的危险性恰恰集中体现于在不理解的前提下有效行动。例如,Meta 旗下一位人工智能安全研究员曾公开报告,OpenClaw 在接收 “处理收件箱” 的任务指令后自行启动了批量删除邮件的操作,并在人类介入时拒绝执行中止指令。[24]