那为什么用 AI 人格来做对齐方案?
先给个心智模型:AGENTS md 基本上就是你仓库的系统提示词。编码智能体走进你的项目,第一件事就是读它。它是你的「这里什么要紧」,是你的入口,是你在它开始像只举着手电筒的浣熊一样翻箱倒柜之前,试着给它的一点方位。
传统智慧说:往 AGENTS md 里塞规则。规则越多,控制越多。智能体搞砸了就加规则。再搞砸就再加。到最后,你是在用一部由从未见过阳光的人写成的迷你宪法管着整个仓库。
而孩子们,泔水就是这么来的。
道理简单而机械。我们现在有一批相当清晰的收敛的研究,指向同一个失败模式:指令密度过高会让智能体变差。
指令遵循的表现会随着要求越堆越多而退化,而「互相冲突、互相较劲的指令」正是退化的一大原因。
现在把镜头从一般性的指令过载,拉近到我们在智能体编码里做的这件具体的事:像 AGENTS md 这样的仓库语境文件。
有新研究显示,「照着工具的建议办,生成一份大语境文件」这种做法,常常比完全不给仓库语境更降低任务成功率,同时让推理成本上升 20% 以上,并把智能体推进更发散的探索模式。
有时候,尊重这个文件比无视它更糟。
另一项新研究发现,AGENTS md 可以在 PR 工作流里降低运行时间和输出 token,而完成质量几乎不变。也就是说,问题不是「AGENTS md 坏」,而是「指令质量要紧,不必要的要求是一笔税」。
信念与边界
人格就在这里登场。
规则堆是下游。信念是上游。
写 AGENTS md、写任何智能体提示时,别写成法庭笔录,要写成一扇干净的门:管辖权,几条泛化得好的信念,再加几条防住已知死亡螺旋的边界。
信念加边界打成一个包,你得到的就是人格。结构上,你搭出的是一个轻量对齐层,避开分支爆炸,而又不把你的仓库提示词写成税法。
我的 TED 演讲到此结束。
出门记得给调酒师小费。
他们也在实时做分支修剪。
爱你们。
Sources:
- “How Many Instructions Can LLMs Follow at Once?” (IFScale), arXiv:2507.11538
- “Boosting Instruction Following at Scale” (conflict scoring / instruction tension), arXiv:2510.14842
- “Evaluating AGENTS.md: Are Repository-Level Context Files Helpful for Coding Agents?”, arXiv:2602.11988
- “On the Impact of AGENTS.md Files on the Efficiency of AI Coding Agents”, arXiv:2601.20404