我觉得 System 1 模型改变了我对 AI 应用架构的思路。
它们把整个流程简化了一大截。
以前你只有两条老路可走。
要么训练一个神经网络去当专门的分类器,要么用 LLM 做分类,再设计一套繁复的工作流去核验结果、确保准确。
分类器要真准确,还是得下功夫,但流程现在简单多了。
有意思的是,分类器其实相当擅长简单决策、排序和估计概率。
LLM 不那么在行的,是带着一堆嵌套 if/then 条件在精密决策树里穿行。
加上分类器,你的智能体工作流要贴上你那些板上钉钉的确定性流程图,就容易多了。
怎么个跑法?
是这么回事:别让推理模型去走整棵逻辑树,让确定性软件管分支,用分类器一步一步评估每个条件。
把决策量规想成一串嵌套的 if/then 语句。
每次分类决定下一个分支走哪边,每个分支独立评估。只用跑要紧的那些分支。
突然之间,你就拥有一套比扔给概率推理器自己琢磨整个问题要确定得多的系统。
而且因为评估的是单个决策,你就能测置信度、比排名、找分歧、抽查核验,不用再搭一套繁复的推理工作流。
然后把收齐的证据交回推理 LLM,做最终判断。这一步要紧,因为一堆各自正确的分类,不一定凑出一个正确的最终决定。
分类、流程、判断,就是这么分开的。
概率推理还在,只是它不再负责撑起整场演出了。
顺带省下几十亿 token。
或者,想更凶一点,把 LLM 彻底踢出局?那你可以随时用一个分类器去把上一个分类器的活评个成或不成。再用你的分类器陪审团去分类那些分类器——你的分类就被你经典地分类完毕了。
这就是我们说的……共识!
废话。