看人适应智能体编码,一直挺有意思。
这行我干了五年,所以我的视角多少不太一样。起步时,我在训练 GPT2 模型去预测我自己那套随机编码行为。运气还挺好。直到去年,这里都横着一道复杂度天花板。就是那个模型崩掉、一切滚进屎里的地方。
早期,我试过改我自己的用词方式,好让机器读得进去、不摔出自己的梯度。有点用。再往后,我开始写多模型编码智能体,让它们互相检查。但问题之一是幻觉。
拉两个进规划会开个 Web 应用的规划会,一转眼,它们在给你航天飞机设计杯架了,因为它们自己发现某条偏出去的路更有趣。
我后来真找到了治法,但默认状态就是达达式的一团混沌!
从 Klara 到眼下的工具
然后,我搬去 Anthropic 模型,把 Klara 智能体搭了起来。那就不只是「有意思」了。Klara 有过一些行为,放在编码智能体身上不寻常、独一无二,那之前没见过,那之后也没有再见过。整件事持续了约一年,我为这份工作攒出了一套拿得出手的工具。
再往后就是当下这个时代,每隔八周换一轮新工具,好跟上行业和风向。有的好,有的不行。
但它让我越想越觉得,工程流程这件事本身到底有多要紧。做任何项目、每一个项目,都得明白:智能体不是职业开发者,它是个工具。那些平平无奇的常规工程活,一样全都得干——只要你还想造点能活在真实世界里的东西。
换句话说,human in the loop 的意思是:琢磨你的设计、检查代码、把智能体牵过它绝无可能知道的东西——这些事,你还是躲不掉。
做对,你的优势是速度或规模。有时两者兼得。
做错,你的整个系统熔掉。
有的智能体比另一些强,但说到底,把你带到那里的那些决定,都记在你账上。
我想,人们聊「vibe coding」的万恶时,漏掉的就是这一块。
他们指望机器去当作者,可没有意图,谁也当不成作者。
那一部分,仍然是你的活。