Orama 嵌入式搜索引擎与 RAG 流水线

要解决的具体问题

在浏览器端或边缘节点做语义检索，通常意味着要把向量数据库和服务端那一整套塞进客户端。传统方案要么依赖外部搜索服务，要么把索引和查询拆成两套系统，嵌入生成、向量存储、相似度计算各管一摊，RAG 的检索链路要自己拼接，工程成本不低。

技能如何工作

这个技能的核心是 Orama——一个体积不到 2KB 的全文、向量与混合搜索引擎，直接在浏览器、服务端或边缘环境运行。

关键能力：

• 多模式检索：全文、向量、混合（hybrid）三种模式一体；
• 内置 RAG 流水线：从文本分块、嵌入到索引构建与检索的链路内建，不需要额外拼装组件；
• 工程友好细节：拼写容错（typo tolerance）、分面搜索（faceted search）、跨语言词干提取；
• 零外部依赖：核心库不依赖其他包，可直接以 npm 包或浏览器模块方式引入。

典型流程：

1. 初始化时在 schema 中声明向量维度，如 embedding: 'vector[1536]'；
2. 提供嵌入函数与对应的 TensorFlow.js 后端（如 @tensorflow/tfjs-node 或 WebGL 后端）；
3. 写入文档后，即可按全文、向量或混合模式发起检索。

适用边界与注意点

• 向量维度必须在 schema 初始化时显式声明，且需与嵌入模型的输出维度一致，否则写入会失败；
• 嵌入生成需要自行接入 TensorFlow.js 后端，整体包体积会随之增加；
• 2KB 指的是搜索引擎核心库的大小，不代表整个 RAG 链路的体积；
• 分块策略和嵌入模型需要自行选择，技能本身不绑定具体模型。