昨天有人问了我一个特别好的问题:「Lynn,你为什么反对提示增强……你的系统里不是也在用吗?」
问题很好。答案是……既是,也不是。
来反编译一下。
提示增强的毛病在于,它让你的提示更吵。往系统提示里塞太多东西,你就可能给模型灌满冗余或不相干的资料。那不会让它更聪明……只会更笨。(参见:Cursor 和愚蠢编码智能体的流行病。)
带工具的系统里确实需要一点增强,但即便如此,走的也是钢丝。你把上下文污染得越多,信号就越少。你不只是在占地方。你在咬掉推理周期。
不,上下文窗口再大也救不了你。要紧的不是你能塞进多少——而是模型能真正有意味地推过多少。想想两个要紧却总被低估的指标——认知带宽和递归深度。
LLaMA 和 Gemini 都有大上下文窗口。但 LLaMA 的递归深度浅,因为它把推理压平了。Gemini 递归更深,但对齐约束更重(还包括几条蠢的),瓶颈卡住了它抽象推理的容量。
提示太吵,它们俩谁都处理不好。
所以:要挑着来。知道你的智能体是干什么用的,知道你要把结果
开向哪里。
让角色保持清楚
增强用户提示,那是更糟的主意。为什么?
角色混乱。思维过程、记忆检索、工具选择、用户意图,全绞进同一段没必要的乱糟糟文本里。没法解析。
要是你能亲眼看一眼会话中途你的上下文窗口长什么样……你就不会干了,而你比周围的任何 LLM 都聪明。
对这段做个摘要吧,可不是嘛。
世上没有 AI 幻觉这回事。它给你出预期之外的输出,原因无非:
1️⃣ 你给错了指令
2️⃣ 你的指令说得太含糊
3️⃣ 你把它整个推下地图了
那怎么修?
1️⃣ 指令清楚
2️⃣ 角色、规则、目标定死
3️⃣ 一切用 Markdown 写下来
4️⃣ 你的智能体该是主语,不是宾语。任务复杂时,让它们自己决定要吃哪份数据、什么时候吃。
好的智能体系统精确、可追、容易推演。
做对了,它每次都灵。