Lokshen:ungoogle your noodle
一个给独立创作者的搜索引擎:反 SEO 编辑部规则、冷知识海盗,和一对为进料吵架的分类器与评审。
Lynn Cole / 写作
写作
文章、想法,和技术笔记。
五年学着造编码智能体
五年编码智能体,从 GPT-2 实验走到 Klara,再到眼下的工具。人类意图和工程纪律,仍然塑造结果。
Sporkle:把内存和设备编排放在第一位
一个不舒服的实话:AI 慢,不是因为模型大,是因为内存被当成了事后想起来的事。
定理是对的,也能瞄错系统
一条关于狭窄多智能体抽象的正确定理,了结不了带持久状态、工具与环境实时反馈的系统。
分类器、流程与判断
分类器评估条件,确定性软件管分支,推理模型做最终判断。
提示增强与刻意的上下文设计
刻意的上下文设计,是把用户意图、记忆、工具和指令分开来,而不是塞进一团吵闹的提示里。
更大的嵌入不自动等于更好的搜索
更大的嵌入不会自动带来更好的检索。语料、切块、上下文和搜索架构,得跟活儿相配。
老文档开始给新智能体掌舵的时候
文档一旦被智能体读到,就成了指令面。借老仓库的零件,可能把一套过时的架构悄悄还魂。
Qwench:规划器才是主角
毛茸茸伴侣应用的一记小弯路,到自我编排的规划主角、难伺候的终端界面,再到一场从 Python 迁去 Go 的搬家。
噪声绘画流水线,从手绘输入到精修
又一例我的噪声绘画流水线:从手绘图或拼贴出发,把它设计成会搅乱扩散模型分类与去噪系统的样子。
GPU 点火成功,然后 CPU 回归到 2 gflops。
没有 CUDA 也没有 ROCm 的净室实现第一次点火就他妈的跑起来了
每月六千五美元的账单,和 token 数量的暴政。
我自掏腰包每月烧掉约 6,500 美元的 token,快乐而多产