Ollama 本地 LLM 部署工具
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @user_922b1001/ollama-wrap。
技能介绍
要解决什么问题
在本地跑大模型,Ollama 已经是很常见的选择:一条命令拉模型、起服务、用 API 对话。真正麻烦的是重复劳动——同一套「检查环境 → 拉取权重 → 起进程 → 对接上层工具」要在多台机器或 CI 里再做一遍,还容易和 GitHub 上的脚本、发布流程脱节。
Ollama Wrap 面向这类场景:把围绕 Ollama 的常用操作收成可复用的封装,并配合 automation 思路,减少手工拷贝命令和临时脚本。
技能如何工作
从资料与命名可以归纳出几条主线:
- Wrap:在 Ollama CLI/API 之上做一层薄封装,统一参数、路径和错误处理方式,避免每个项目各自写 shell。
- 本地 LLM 部署:聚焦「在本机或内网节点上」完成模型可用性,而不是托管云 API;与
ollama pull、ollama run一类工作流对齐。 - Go 实现取向:描述中指向 Go 技术栈,适合需要编译成单一二进制、便于在内网分发的情况(具体接口以 SKILL 正文为准)。
- GitHub / automation:标签表明可与仓库脚本、自动化流水线结合,例如固定模型版本、在 PR 或 nightly 里做 smoke test。
使用时,Agent 会按 SKILL 约定调用封装好的步骤,而不是每次从零拼命令。
适用边界与注意点
- 依赖本机已安装并可用的 Ollama 运行时;Wrap 不能替代 GPU/驱动与磁盘空间要求。
- 技能侧重「部署与自动化封装」,不保证覆盖微调、RAG 索引构建等上游数据工程。
- 与 github 相关的集成程度取决于 SKILL 内具体说明;未写明的功能不要假设已内置。
- 生产环境请自行约束模型来源、网络出站与访问控制;本地 LLM 同样涉及合规与密钥管理。
使用场景
- 在内网 GPU 节点上,按项目清单执行 `ollama pull` 并用统一参数拉起推理服务
- GitHub 流水线 nightly 阶段拉取固定 tag 的模型,并对本地 API 做一次 smoke 调用
- 多台 Linux 开发机需要相同部署步骤时,用 wrap 替代每人维护的 shell 片段
- 隔离网络环境通过 Go 二进制分发,在目标机完成 Ollama 相关部署与启动编排
适合人员
- 负责内网 LLM 推理节点上线的平台工程师,要把 pull/run 流程标准化并可重复执行
- 维护带 CI 的后端项目、需在 job 里验证固定 Ollama 模型是否可用的集成开发者
- 在无法随意拉脚本的环境、只能发二进制分发部署工具的内网运维人员
- 自建 Agent/本地 Copilot 环境、希望对话里按 SKILL 调用 Ollama 而非临时拼命令的应用工程师