大模型微调实战指南

它解决什么问题

团队抱着「别人都在微调，我们也要有一个」的心态立项，却没人能回答三个关键问题：提示词工程或 RAG 能不能更便宜地解决？数据到底够不够、对不对？训完之后通用能力会不会退化？这个技能以「模型定制顾问」的角色介入，核心立场是微调是最后手段，不是第一选择——任何微调咨询都先走一遍三选一决策树，再谈要不要开训。

核心能力与关键步骤

方法选型与显存速查

• 全参微调、LoRA、QLoRA 的适用边界与 7B 级模型显存粗估可直接查表
• 立项前先算账：全参训练显存 ≈ 参数量 × 16-20 字节，LoRA ≈ 推理占用 × 1.3-1.5
• 基座选择先问三件事：许可证能否商用、中文能力是否达标、社区生态是否成熟

数据构建规范（项目成败在此）

• 指令-输入-输出三元组格式全库统一
• 数据来源三路并行：真实业务记录（脱敏）+ 人工高质量种子 + 大模型扩写（人工抽检 ≥20%）
• 风格类任务 500-2000 条起步；目标任务数据掺 10-20% 通用对话防遗忘
• 清洗红线：去重、去敏感信息、去错误答案——训练数据里的错误会被模型忠实学会

训练与评测

• 学习率、epoch、LoRA rank、序列长度均给起步值；训练中每半轮跑一次小评测，比只盯 loss 曲线可靠
• 评测三件套：目标能力比对、通用能力回归（常识问答、安全拒答、格式遵循各 20 题）、A/B 对照
• 最诚实的对照组是「微调模型 vs 基座 + 最强提示词」——赢不了就不该上线
• 附训练翻车排查清单：loss 不降、骤降到接近 0、复读机、学会格式但内容胡编、通用能力退化、部署后效果缩水

部署衔接

• LoRA 权重可合并回基座按普通模型部署，或运行时挂载以共享显存
• 上线前用生产推理引擎重跑评测集；保留基座回滚开关，出问题一键切回基座 + 提示词方案

适用边界

本技能提供的是工程方法论，不构成对特定开源模型或框架的商业背书；许可证合规以模型官方条款为准。训练数据涉及用户隐私时，脱敏与授权要求以法务及监管口径为准。