Open WebUI 自托管AI界面

解决的问题

团队希望在完全离线的服务器上为大模型搭建 Web 界面，但常见的 ChatGPT 风格 UI 要么依赖云端服务，要么对接 Ollama、OpenAI 兼容 API 时需要自行处理 RAG 检索、工具调用和会话状态。缺少统一容器镜像和多节点方案时，本地部署容易变成零散脚本维护工作。

技能如何工作

• 离线自托管：提供容器镜像，支持 Docker 与 Kubernetes 方式部署，便于在隔离网络中运行。
• 兼容多种 Runner：可连接 Ollama，也可对接 OpenAI 兼容 API，减少前端与推理后端耦合。
• 内置 RAG 推理：在 Web 界面中处理文档检索增强，适合把内部资料作为上下文喂给模型。
• Python 函数调用工具：工作区内置代码编辑器，支持 Bring Your Own Function，可直接挂载纯 Python 工具函数。
• 横向扩展：使用 Redis 管理会话，并通过 WebSocket 支持多 worker、多节点和负载均衡后的统一通信。

适用边界与注意点

适合需要数据不出内网、已有或愿意搭建容器平台的团队。镜像标签如 :ollama 与 :cuda 会影响后端依赖，部署前需要确认硬件与驱动。RAG 效果依赖文档切分和向量库质量；自定义 Python 函数属于用户代码，需要自行进行安全审查和权限控制。多节点部署则要求额外维护 Redis 与负载均衡配置。