五年学着造编码智能体
五年编码智能体,从 GPT-2 实验走到 Klara,再到眼下的工具。人类意图和工程纪律,仍然塑造结果。
Lynn Cole / 标签
A thread through the work.
五年编码智能体,从 GPT-2 实验走到 Klara,再到眼下的工具。人类意图和工程纪律,仍然塑造结果。
一条关于狭窄多智能体抽象的正确定理,了结不了带持久状态、工具与环境实时反馈的系统。
刻意的上下文设计,是把用户意图、记忆、工具和指令分开来,而不是塞进一团吵闹的提示里。
更大的嵌入不会自动带来更好的检索。语料、切块、上下文和搜索架构,得跟活儿相配。
嵌入开放式语言接口的代价是推理成本、注入与滥用等一整套攻击面
昨晚跑了五个小时、近 15,000 行全测试代码
从单体架构到没有单元测试,九个最常见的失败方式
逆向前人已有的产品和做出原创产品之间隔着巨大鸿沟,真正的开销是试错与测试。所以我想说的是:你的饭碗保住了,至少目前是。
这周我想了很多关于逆向软件的事,可能发现了一种新型规格工程
企业软件真该跟营销人员学学。
所以这个圣诞假期,我一直在琢磨着把 Claude Sonnet 调教成一个更好、更有章法的程序员。
干这行这些年,互联网的演化路数挺有意思。
我对 2026 的预测,写于 2025 年 12 月:小模型、边缘算力、变化的工具、创意技术,以及权力结构。
一次对 Claude Code 分层语境控制机制的审读:提示词、隐藏提醒、工具序列化,以及平行的许可判定。
人格可以编码信念与边界,而不必把仓库指令写成税法。指令质量改变智能体的工作方式。
把语音智能体装进一辆退役卡车,让具身场景变得可触摸:传感器、路线、记忆、本地推理,以及一直在变的语音栈。
数字艺术、可视化编程、网页设计、音乐、动画——这场架我们都听过。降低门槛改变的是谁有权去试。
推理循环不只属于权重,也属于工程流程。把更多推理时间,花在不确定性与后果都撑得起它的地方。
那今天干了什么?除了为了玩做数据挖掘?
要是把这场对决拍成拳击赛,结果本该明摆着。
AI 在编码中制造的速度感很有意思,因为它远没有人们以为的那么均匀。
那么这个周末我学到了什么?
对 AI 的批评是一轮一轮循环的,同一批人把同样的论点重复一遍又一遍,说得像自己想出来的一样。
Busy 的第 9 版实现,一头撞上复杂度墙。
今晚我埋头翻了数字果蝇大脑的研究,翻人们拿这东西都干成了什么。
我一再拿「后 OpenClaw 的世界」开头,但这件事重要。
我的实验性 Ruby 到原生编译器 Ruby Tumbler,一直在慢慢但稳稳地推进。
这个周末,在我脑子里:
自博弈研究一直在升温,升级的方式还挺有意思。
还有人记得 CodeCharge 吗?
还记得人们从前拿文档说的话吗,当他们不想为基础设施或代码负责的时候?
关于做 AI,这是大家至今没搞懂的最重要的一件事——不管你在训练模型还是设计智能体系统:
新的规划循环帮了编码蜂群,但两张冲突的工单把基准干熔了。下一个修法:实现循环开跑前先校验积压单。
推理带宽和递归深度,能解释单看 token 数解释不了的那些失败。上下文与任务复杂度,得逐例对待。
那篇任务完成度论文把模型推到崩为止。更有信息量的部分,是人们多自信地把自家议程读进结果里。
一份故意模糊的 Zig 作业,推着 Qwen 走过规划、实现,直到复杂度墙。失败本就是评测的一部分。
博弈训练数据集的搭建,比那份利落计划预期的慢。这里是挑战数、解题轨迹和训练信号目前的进度。
上下文容量再大,也消不掉复杂度极限。作用域、记忆、更小的组件和清晰的边界,照样要紧。
Gemini 的召回行为让我去测了一件事:大的上下文窗口,和对更大会话的主动查阅,到底差在哪。
我此刻对天发誓的直觉是:
过去一年,生成式 AI 里有什么东西在成形。
做一个 AI 应用,我认为有两个问题必须提前答:
从 ChatGPT 顺着管道下来、改天换地那天起,我就在做定制的智能体系统。
有进展! 乐谱训练数据全到手了,还有作曲信息带元数据,一起装进了漂亮的小份打包 JSON 文件里。
Pizza Empire 用一整个披萨外卖产品考长程编码蜂群:下单、厨房、配送,以及把它们串成整体的种种约束。
论烂点子,这个还真好玩。
前一阵子我说过,我想造一个 GitHub 的替代品。