本地 RAG 搭建工具
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @user_800d68d6/local-rag-builder。
技能介绍
解决的问题
本地 RAG 往往卡在环境、模型、切分和检索精度之间:Python 依赖缺失、嵌入模型下载失败、代码块/表格被切散、多个知识库互相串。local-rag-builder 把这些步骤串成可调试的流水线,让智能体先拿到可用 context,再由模型组织答案。
工作方式
- 环境准备:
rag_env_setup.py检测 Python 3.11+、安装chromadb、sentence-transformers、langchain等依赖。 - 模型与入库:多源下载嵌入模型,支持重试和路径修正;文档经
text_splitter.py切分后写入 Chroma,使用 SM3 哈希去重。 - 切分与检索:支持固定窗口、递归、标题层级、按句、语义切分;
GuardStack保护代码、公式、表格、HTML;可选 Rerank 与知识库路由。 - 两种模式:
rag_skill.py只做检索,交给智能体回答;rag_standalone.py检索后调用 LM Studio、Ollama 或 vLLM 生成答案。
适用边界
适合本地私有文档、Markdown/PDF 资料、单进程知识库场景。原生纯文本格式最好,PDF/图片 OCR 需开启;不直接支持 OpenAI/Cohere API 嵌入;单库建议 5 万条以内,不适合多用户并发写入。
使用场景
- 维护内部运维手册时,把 Markdown 和 PDF 入库,并用层级切分回答故障排查问题。
- 嵌入模型下载失败时,切换 ModelScope 或 HuggingFace 镜像重试,并校验本地缓存路径。
- 管理多个项目资料时,创建独立知识库,按自动分类规则入库,再检索相似文档。
- 回答前需要保留代码块和表格结构时,配置 GuardStack 与后处理子切,避免上下文被截断。
适合人员
- 维护私有文档库、希望本地检索不上传原文的工程师
- 需要给智能体接检索上下文、但不想额外部署 LLM 的 AI 应用开发者
- 经常处理 Markdown、PDF 和结构化文档,需要可控切分策略的技术写作者
- 在 LM Studio、Ollama 或 vLLM 上跑本地模型,想组合检索与生成的本地推理用户