微调专家
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @kunlungrowth/fine-tuning-expert 技能到 AI 助手中。
技能介绍
要解决的问题
拿到一个基座模型后,很多人都会遇到同一种困境:直接用通用模型处理客服对话、领域分类或内部指令任务,效果总是差一口气,但从头训练一个新模型成本太高,也没有必要。微调确实能解决这个中间地带的问题,麻烦在于参数怎么选、数据怎么写、过拟合怎么防——这些问题在教程里往往被一笔带过,落到自己的任务上却每一个都会踩一遍。
@kunlungrowth/fine-tuning-expert 就是为这段容易出问题的流程准备的:它不负责训练本身,而是把从任务定义到可执行方案的准备工作拆解清楚。
核心能力与工作流
适用场景包括:
- 配置 LoRA / QLoRA 适配器,确定 rank、学习率、批次大小
- 准备 JSONL 训练集,处理清洗、去重与字段格式化
- 设定训练超参与评估策略
- 训练过程中监控 loss,防止过拟合
五个步骤的流程:
- 明确任务:判断是分类、生成还是指令任务,估算数据规模
- 处理数据:清洗原始样本、去重,整理成
prompt/completion结构的 JSONL 文件 - 配置参数:选择基座模型,确定
rank、lr、epochs等关键超参 - 训练监控:跟踪 loss 曲线,在验证集上早停,发现过拟合迹象及时调整
- 产出工件:返回结构化的
FinetunePlan,包含base_model、method、dataset、hyperparams等字段
最终输出分两部分:一是完整的 FinetunePlan 工件本身,可以直接被下游程序消费;二是一段自然语言摘要,给出质量自检结果和最值得修改的两到三个点。这意味着方案不是写完就结束的静态文本,而是附带了复盘的输入。
适用边界
这个技能聚焦在微调前期的方案设计,不适用于以下情况:
- 需要检索增强的任务,应该用
rag-architect,两者的输入结构和设计思路完全不同 - 超算集群的资源调度、任务队列管理,不在本技能范围内
另外,技能的输入可以是自然语言描述的需求,也可以是已有的 FinetunePlan 用于二次优化。如果你手里已经有一份初步方案但拿不准参数是否合理,把 FinetunePlan 喂回去让它做一轮质量检查是更省事的用法。
使用场景
- 拿到客服对话记录想做 LoRA 微调,需要清洗去重并整理成 JSONL,确定 rank 等参数
- 训练中 loss 持续下降但验证集指标不提升,需要判断是否过拟合并给出早停策略
- 已有通用基座想适配内部指令任务,需要确定学习率、批次大小并设计评估方案
- 手里有一份初步 FinetunePlan,但不确定超参是否合理,需要做一轮质量检查并拿到修改建议
适合人员
- 后端工程师,需要把基座模型适配到业务分类或生成任务,但不熟悉微调流程
- 算法实习生,第一次跑 LoRA/QLoRA 微调,需要数据格式、超参选择和防过拟合的完整指引
- 独立开发者,只有单卡显存预算,想用 QLoRA 在有限资源下做领域模型适配
- 技术负责人,需要审核团队产出的微调方案,判断参数是否合理、数据格式是否规范