新一代模型——Gemini、LLaMA 之类——上下文窗口好得吓人。
它们能装下更复杂的信息,装得更久。这是件大事,对吧?
但……好到什么程度才算好?
我在真实世界的富上下文编程场景里测极限,我的判断是:这批「高上下文、高召回」、号称数百万 token 级生产就绪的 AI,还没烤熟。
逼得太狠,你会开始看到怪行为:
发懵、碎片化、情绪崩盘、随机切换语言、干到一半换任务。
上下文过载依然真实存在。
东西是让人兴奋,但还没到你可以用单个模型、单个智能体或单个流程,去盖巨大而功能完整的单体的时候。
你会撞上复杂度墙——尤其是在大代码库上。
我的建议?
- 🔹 把上下文窗口限制在 300 对左右
- 🔹 尽量用智能体记忆和长时运行的进程
- 🔹 围绕「装得进你脑子」原则来搭建
因为你自己脑子里也装不下超人量的、在跑的代码。就别指望 AI 能可靠办到。至少……暂时。
这就是微服务要紧的原因。
- 🔹它们降低圈复杂度。
- 🔹它们隔离作用域。
- 🔹它们在你帮手犯迷糊时,还能垫住冲击。
有心,就有路。
有路,就有窍门。
👉 按组件去想。