Agent Skills
返回列表
🤖

Torchtune

AI Agent 更新于 2026.08.30

将以下提示词粘贴到你的 AI 对话框中:

请根据 https://skillhub.cn/install/skillhub.md,安装 @user_1a99cb00/torchtune。

技能介绍

要解决什么问题

大模型要在自有数据上可用,往往得在有限显存里跑通 SFT、偏好对齐或参数高效微调,而不是每次都全量改权重。自研训练循环容易和 Hugging Face 权重格式、显存优化策略各搞一套,维护和复现实验都费劲。

技能如何工作

Torchtune 是 PyTorch 官方的后训练库,主打内存高效与可组合的 recipe 体系。你可以在统一框架里选用 SFT、LoRA、QLoRA、DPO 等路径,按模块拼装数据加载、优化与保存逻辑,并与 Hugging Face 侧权重互通,减少「换一套脚本就换一套约定」的摩擦。

典型流程是:选定任务类型与 recipe → 配置模型与数据 → 按官方文档跑训练与导出。核心能力都围绕「官方维护的训练配方 + 显存友好」展开,而不是零散的自定义 trainer 合集。

适用边界与注意点

它面向 PyTorch 生态下的后训练与微调实验,不是通用推理服务或全自动 MLOps 平台。若你完全不碰 PyTorch、也不关心 LoRA/QLoRA/DPO 等配方,这个技能主要提供导航与能力说明,落地仍以 官方文档 与仓库为准。社区技能发布者与 PyTorch 上游版本节奏可能不一致,上线前建议核对当前 recipe 与 API。

使用场景

  • 在单卡或有限显存上,用 LoRA/QLoRA 对开源基座做领域 SFT,并导出与 HF 兼容的权重
  • 需要把人类偏好数据做成 DPO 训练,又希望沿用 PyTorch 官方 recipe 而非自写 Trainer
  • 团队统一微调脚本,要求 SFT 与 DPO 共用同一套模块化配置与检查点约定
  • 从 Hugging Face 拉取基座权重后,在 Torchtune recipe 里完成后训练并回写标准格式

适合人员

  • 负责基座模型领域适配的算法工程师,要在显存受限环境下稳定跑通 SFT/LoRA
  • 做 RLHF/DPO 链路的研究员,希望 recipe 与 PyTorch 主线文档对齐、便于复现
  • 维护内部微调平台的 MLOps 工程师,需要与 Hugging Face 权重格式互通的官方训练栈
  • 从 LLaMA 等开源权重出发做定制化后训练的应用团队技术负责人