Agent Skills
返回列表
🤖

开源模型选用与微调决策指南

AI Agent 更新于 2026.08.29

将以下提示词粘贴到你的 AI 对话框中：

请根据 https://skillhub.cn/install/skillhub.md，安装 @kunlungrowth/open-model-application-guide。

技能介绍

要解决的问题

业务方常把“开源模型不够好”直接等同于“必须微调”。但真实瓶颈往往是知识没接进来、输出格式没约束、模型选型不匹配。这个技能的作用，是在动训练之前先帮你排除更便宜的路径。

它如何工作

技能以“开源模型落地顾问”角色介入，核心是四类低成本路径：

  • 缺知识：优先做 RAG，把数据接入检索链路；
  • 缺格式：调整提示词与 chat template，锁定输出结构；
  • 缺能力：先换更合适的基座模型，而不是直接训练；
  • 都试过仍不达标：再评估微调。

决策时坚持三条底线：微调是最后手段；数据质量 > 数据数量，500 条高质量样本胜过 5 万条脏数据；算清成本，训练、迭代、部署三本账一起算。

模型选型采用五维评估：许可证、中文能力、参数规模、生态成熟度、任务匹配。任何一项踩到淘汰线（如禁商用、中文语料弱、显存放不下且无法量化）就直接排除，避免后面在不可用候选上浪费算力。

进入微调后，技能会区分全参微调、LoRA 与 QLoRA。对多数企业的格式、话术、领域术语需求，LoRA 或 QLoRA 起步即可；全参微调仅在效果验证后规模化时考虑。数据准备给出数量基线（格式对齐 300-1000 条，领域适配 3000-10000 条）、质量三查、格式统一、验证集划分、负样本要求，并附训练避坑速查（如通用能力暴跌、复读/胡言乱语、格式学不会、显存 OOM 的常见原因与处理）。

效果评估按四步走：建立 50-200 条真实业务评测集并先跑基线；基座模型、微调模型、商用 API 三方同题对比；任务达成率与通用能力回归双维打分；上线后 10% 流量灰度 AB 观察一周。

适用边界

技能提供选型与微调方法论，不担保特定模型或数据在具体业务上的效果。模型许可证与商用条款以官方发布页为准。训练数据涉及个人信息时，需先完成脱敏并遵守《个人信息保护法》等相关法规。

使用场景

  • 业务方要求微调专属模型，需先判断是缺知识、缺格式还是缺能力，避免盲目启动训练。
  • 团队需在中文场景部署开源模型，需按五维评估筛选可商用、中文能力强且显存适配的基座。
  • 准备微调数据时，需对照清单检查数量基线、质量三查、验证集划分及负样本是否达标。
  • 训练后模型出现复读或通用能力下降，需查阅避坑速查表调整学习率、训练轮次或混入通用数据。

适合人员

  • 负责模型落地的算法工程师，需要在业务方提出微调需求时，提供低成本路径判断与成本核算。
  • 承担模型部署的后端工程师，需要为中文业务场景挑选许可证合规且显存能承载的开源模型。
  • 刚接触大模型训练的机器学习实习生，想理清LoRA与全参微调的区别、数据要求及避坑指南。
  • 负责项目规划的技术负责人，需要在启动微调前评估数据质量、训练算力成本与合规风险。