Agent Skills
返回列表
🤖

微调专家

AI Agent 更新于 2026.08.29

将以下提示词粘贴到你的 AI 对话框中:

请根据 https://skillhub.cn/install/skillhub.md,安装 @kunlungrowth/fine-tuning-expert 技能到 AI 助手中。

技能介绍

要解决的问题

拿到一个基座模型后,很多人都会遇到同一种困境:直接用通用模型处理客服对话、领域分类或内部指令任务,效果总是差一口气,但从头训练一个新模型成本太高,也没有必要。微调确实能解决这个中间地带的问题,麻烦在于参数怎么选、数据怎么写、过拟合怎么防——这些问题在教程里往往被一笔带过,落到自己的任务上却每一个都会踩一遍。

@kunlungrowth/fine-tuning-expert 就是为这段容易出问题的流程准备的:它不负责训练本身,而是把从任务定义到可执行方案的准备工作拆解清楚。

核心能力与工作流

适用场景包括:

  • 配置 LoRA / QLoRA 适配器,确定 rank、学习率、批次大小
  • 准备 JSONL 训练集,处理清洗、去重与字段格式化
  • 设定训练超参与评估策略
  • 训练过程中监控 loss,防止过拟合

五个步骤的流程:

  1. 明确任务:判断是分类、生成还是指令任务,估算数据规模
  2. 处理数据:清洗原始样本、去重,整理成 prompt / completion 结构的 JSONL 文件
  3. 配置参数:选择基座模型,确定 rank、lr、epochs 等关键超参
  4. 训练监控:跟踪 loss 曲线,在验证集上早停,发现过拟合迹象及时调整
  5. 产出工件:返回结构化的 FinetunePlan,包含 base_model、method、dataset、hyperparams 等字段

最终输出分两部分:一是完整的 FinetunePlan 工件本身,可以直接被下游程序消费;二是一段自然语言摘要,给出质量自检结果和最值得修改的两到三个点。这意味着方案不是写完就结束的静态文本,而是附带了复盘的输入。

适用边界

这个技能聚焦在微调前期的方案设计,不适用于以下情况:

  • 需要检索增强的任务,应该用 rag-architect,两者的输入结构和设计思路完全不同
  • 超算集群的资源调度、任务队列管理,不在本技能范围内

另外,技能的输入可以是自然语言描述的需求,也可以是已有的 FinetunePlan 用于二次优化。如果你手里已经有一份初步方案但拿不准参数是否合理,把 FinetunePlan 喂回去让它做一轮质量检查是更省事的用法。

使用场景

  • 拿到客服对话记录想做 LoRA 微调,需要清洗去重并整理成 JSONL,确定 rank 等参数
  • 训练中 loss 持续下降但验证集指标不提升,需要判断是否过拟合并给出早停策略
  • 已有通用基座想适配内部指令任务,需要确定学习率、批次大小并设计评估方案
  • 手里有一份初步 FinetunePlan,但不确定超参是否合理,需要做一轮质量检查并拿到修改建议

适合人员

  • 后端工程师,需要把基座模型适配到业务分类或生成任务,但不熟悉微调流程
  • 算法实习生,第一次跑 LoRA/QLoRA 微调,需要数据格式、超参选择和防过拟合的完整指引
  • 独立开发者,只有单卡显存预算,想用 QLoRA 在有限资源下做领域模型适配
  • 技术负责人,需要审核团队产出的微调方案,判断参数是否合理、数据格式是否规范