Agent Skills
返回列表
Ollama 本地 LLM 部署工具

Ollama 本地 LLM 部署工具

IT 运维与安全 更新于 2026.08.29

将以下提示词粘贴到你的 AI 对话框中:

请根据 https://skillhub.cn/install/skillhub.md,安装 @user_922b1001/ollama-wrap。

技能介绍

要解决什么问题

在本地跑大模型,Ollama 已经是很常见的选择:一条命令拉模型、起服务、用 API 对话。真正麻烦的是重复劳动——同一套「检查环境 → 拉取权重 → 起进程 → 对接上层工具」要在多台机器或 CI 里再做一遍,还容易和 GitHub 上的脚本、发布流程脱节。

Ollama Wrap 面向这类场景:把围绕 Ollama 的常用操作收成可复用的封装,并配合 automation 思路,减少手工拷贝命令和临时脚本。

技能如何工作

从资料与命名可以归纳出几条主线:

  • Wrap:在 Ollama CLI/API 之上做一层薄封装,统一参数、路径和错误处理方式,避免每个项目各自写 shell。
  • 本地 LLM 部署:聚焦「在本机或内网节点上」完成模型可用性,而不是托管云 API;与 ollama pull、ollama run 一类工作流对齐。
  • Go 实现取向:描述中指向 Go 技术栈,适合需要编译成单一二进制、便于在内网分发的情况(具体接口以 SKILL 正文为准)。
  • GitHub / automation:标签表明可与仓库脚本、自动化流水线结合,例如固定模型版本、在 PR 或 nightly 里做 smoke test。

使用时,Agent 会按 SKILL 约定调用封装好的步骤,而不是每次从零拼命令。

适用边界与注意点

  • 依赖本机已安装并可用的 Ollama 运行时;Wrap 不能替代 GPU/驱动与磁盘空间要求。
  • 技能侧重「部署与自动化封装」,不保证覆盖微调、RAG 索引构建等上游数据工程。
  • 与 github 相关的集成程度取决于 SKILL 内具体说明;未写明的功能不要假设已内置。
  • 生产环境请自行约束模型来源、网络出站与访问控制;本地 LLM 同样涉及合规与密钥管理。

使用场景

  • 在内网 GPU 节点上,按项目清单执行 `ollama pull` 并用统一参数拉起推理服务
  • GitHub 流水线 nightly 阶段拉取固定 tag 的模型,并对本地 API 做一次 smoke 调用
  • 多台 Linux 开发机需要相同部署步骤时,用 wrap 替代每人维护的 shell 片段
  • 隔离网络环境通过 Go 二进制分发,在目标机完成 Ollama 相关部署与启动编排

适合人员

  • 负责内网 LLM 推理节点上线的平台工程师,要把 pull/run 流程标准化并可重复执行
  • 维护带 CI 的后端项目、需在 job 里验证固定 Ollama 模型是否可用的集成开发者
  • 在无法随意拉脚本的环境、只能发二进制分发部署工具的内网运维人员
  • 自建 Agent/本地 Copilot 环境、希望对话里按 SKILL 调用 Ollama 而非临时拼命令的应用工程师