所以,想 AI 系统、安全与对齐的时候,有一条原则要放在心里:目的与手段,主体/客体的二分,Immanuel Kant 念叨了一辈子的那句「永远别把人当工具」。
「不过 Lynn,我可不是来听哲学课的。这跟我的智能体有啥关系?」你大概会这么说。
哦,聪明的读者,这就是启蒙哲学,被当成智能机器的系统设计原则。咱们来调试它。
因为人们搭长时运行、基于记忆的编排器时——通常是失败告终——搞砸的地方多半不在那些精巧部件上。它是悄悄发生的,作为一个范畴错误。有些看起来像关注点分离的问题。但更深的失败,在于误解了你造的是哪一类机器。
而且不怪谁。大多数工程师受训的世界里,软件是实现目的的手段。请求进,响应出。确定性循环。无状态服务。你可以有「聪明」的代码,但它始终活在一个完整拥有流程的壳里。
智能体系统打破这个心智模型,因为你造的进程有了持久的状态、记忆,以及哪怕有限度的、不完全由调用方当场决定的决策能力。这是定义性特征。状态与能动性。
主体与客体
在这个框架里,主体是作为一个行动者参与另一进程的智能进程。你调用推理来管你的邮件:扫一遍你在乎的分类,删掉不想要的,跟进要紧的会话,甚至根据自己随时间注意到的模式,改写它自己的跟踪规则。你能认出主体,因为它有连续性:它把历史往前带,并用那些知识掌舵下一步。
相比之下,客体是一个函数。达成目的的手段。在 AI 之前,几乎所有常规计算都属于这一类。IT 默认是你指向任务的工具。它可以复杂,可以聪明,只是不作为行动者跨时间持续。它不积攒内在语境,再让你日后被那份积攒的后果吓一跳。
状态与连续性
但光会推理,还不构成主体。
状态才构成。
一个经典客体形状的 LLM 进程,是 RAG 调用:读文档,听令总结,然后消失。它可以推理得很漂亮,但没法决定自己在干什么。不能重新谈目标。不能明天醒来带着新计划。它是被作用的,困在确定性循环里,函数返回时就死掉。
现在把同一个模型拿出来,给它持久记忆、心跳、规划器、工具,和「根据记忆选择下一步」的许可——比如附一句「记住:别当混蛋」——那么恭喜,你已经通过搭出一个主体形状的进程,改写了底层的本体论范畴。
对齐之前,先分类
也就在这里,对齐的讨论变得出奇地实操。
很多「对齐失败」其实是分类失败。人们把主体当客体用,然后假装震惊于它表现得像主体。或者把客体当主体看,往一个基本上是失忆的会话计算器的东西身上,投射意图和战略。
连前沿研究偶尔也会在分析里混淆这两个范畴。
我的框架是生产环境和真实部署。在那里,想让智能体系统平稳跑,你得停下来问一问:LLM 在扮演哪个角色,什么时候扮演。把边界标出来。狠狠守住它。把它做进架构里,而不是松散地留在文档的暗示里。
因为你没法对齐一个你没法分类的东西。