我的想法是:
更大的嵌入不一定意味着更好的搜索。
实际上,通常意味着不是。
你要的是搜索——快、相关、对得上意图的检索——那加维度常常只添噪声。
搜索里噪声多,意味着结果更没用、开销更大,排序和解析的复杂度也跟着涨。
小嵌入更紧、更快、更专注。
它们锁住要紧的东西。
不会追着语义蝴蝶在几千个多余维度里乱飞。
特别适合:
- 🔹 FAQ
- 🔹 结构化内容
- 🔹 快速检索
可要是往里扔一摞 90 页的判决书,一切就变了。
- 🌀 现在你需要跨段的上下文
- 🌀 你需要跨段落的微妙的措辞差异,不是关键词
- 🌀 「有 prejudice 驳回」和「没有 prejudice 驳回」的区别,你得真能读出来
大模型到这种时候才发光——更重要的,是更聪明的架构。
- ⚙️ 按论点切块,不按页数
- ⚙️ 用中等大小、领域调优过的嵌入
- ⚙️ 第一遍扛不住,就用全局上下文再跑一遍
把意义变成数学
可是 Lynn……嵌入到底是个啥?
行,来。
嵌入是我们把意义变成数学的方式。
句子、段落、文档,压缩成向量,相似的东西挨得近。
不过……向量跟向量不平等。
🧠 MiniLM、E5 这类小型本地模型,赢在速度。专注也好。
用不上读字里行间的时候,好得很。
🧠 Ada v2、BGE 这类大模型,更慢更重。但只要你引得对,它们看得见大局。
然后是好玩的部分:
关键要记住:嵌入,至少光凭它自己,不是摘要。
但……没有任何规定禁止你往嵌入里加摘要和其他关键要素,只要能让它更好搜。
想想房地产,数据的那些技术细节,光看本身可能什么意思都没有,缺的就是上下文。
这种地方,你要的是「富嵌入」。不光嵌原始内容,还嵌意义的形状。
标签、摘要、潜在元数据,全烘进向量里。
用得好,搜索变好,智能体变聪明,上下文也齐了。
🎯 我的经验法则:
- ➡️ 越多微妙 = 越多维度
- ➡️ 越多噪声 = 越差性能
- ➡️ 向量化之前,先认识你的语料
并且永远给活儿配对的家伙什。