技能介绍

私有文档，为什么不该直接扔进聊天框

把公司制度、技术规范、PDF 手册直接喂给通用大模型，结果往往是答非所问或者一本正经地编造。问题不在模型不够聪明，而在于它看不到你的文档，也分不清某个结论来自哪份文件。这个技能用一条自托管的 Kotaemon 文档问答工作流，补上模型与私有文档之间缺失的信任通道：文档先被索引成可检索的结构，提问时先召回相关片段，再让 LLM 基于片段作答，并附带引用。

核心能力与工作路径

私有文件索引：把本地文档集合交给 Kotaemon 构建索引，索引数据留在你自己的环境里，不经过第三方服务。
多模型接入：兼容 OpenAI、AzureOpenAI、Cohere 等 API 提供商，也能通过 ollama 或 llama-cpp-python 调用本地模型，敏感场景可完全走内网。
有依据的回答：答案不是模型即兴发挥，而是先检索相关片段、再基于片段生成，并返回引用，让结论可追溯。
索引策略可扩展：底层基于 Gradio 构建，UI 元素可自行定制；同时支持多种文档索引与检索策略，GraphRAG 索引管道也已提供。

一次典型的问答循环是：加载文档集合 → 构建索引 → 提问 → 检索相关片段 → LLM 基于片段生成带引用的答案。

适用边界与注意点

需要自备 Docker 或 Python 环境、待索引的文档集合，以及一个可用的 LLM 提供商或本地模型（如 Ollama）。这不是零配置的云端服务。
默认支持 .pdf、.html、.mhtml、.xlsx 等格式；要处理其他文件需下载最新版本的 zip 包，安装步骤因环境而异。
回答质量取决于索引质量与检索命中情况，文档量大或内容专业时需要关注索引策略的调优。
自托管意味着运维、模型选型和索引维护都由使用方承担。