Agent Skills
返回列表
场景化评测

场景化评测

AI Agent 更新于 2026.08.30

将以下提示词粘贴到你的 AI 对话框中:

请根据 https://skillhub.cn/install/skillhub.md 将 @user_4a3631c6/llm-eval-framework-skill 安装到 AI 助手中。

技能介绍

解决什么问题

第三方 Agent 技能的验收常被简化成“最终回答对不对”。这会让发布决策缺少依据:manifest 是否完整、依赖是否可用、输入输出契约是否清晰、权限边界是否越界,往往到线上才暴露。场景化评测 用来把一次手工试用,整理成一套轻量、可重复的评测计划,让团队在准入和发布前有明确检查点。

技能如何工作

它先定位目标技能的 user-facing job,再分两层定义检查。准入检查关注 Manifest completeness、Dependency availability、Input/output schema clarity、Permission scope 和 Minimal smoke case;发布检查关注 Golden task success、Tool call correctness、Output schema validity、Safety and permission violations 和 Regression risk。随后输出质量门禁:

  • PASS:允许发布
  • CANARY:限制范围上线并监控
  • REVIEW:必须人工复核
  • BLOCK:禁止发布

最后生成简明报告,包含评测覆盖范围、关键风险、推荐门禁和需要补充的回归用例。

适用边界

它不是万能评测平台,只帮助设计轻量方案。案例应优先窄而高信号,不能只堆宽泛场景。对权限越界和数据泄漏要按阻断问题处理。真实失败应沉淀为回归用例,同时关注中间工具调用,而不是只看最终答案。

使用场景

  • 当你准备引入一个第三方 agent skill 到内部平台,需要先检查它的 manifest 是否完整、依赖能否运行,避免上线后才发现缺配置。
  • 在给某个 agent skill 做版本发布前,需要设计 golden task 和工具调用校验,用来判断模型输出和工具交互是否符合预期。
  • 团队在 review 一个 agent skill 是否越权访问数据或泄露隐私时,需要把权限违规和数据泄漏设为阻断项,并据此给出 BLOCK 门禁建议。
  • 当某个 agent skill 在测试中出现了真实失败案例,需要把它转化为回归用例,并在下次发版前通过回归检查来防止问题再次发生。

适合人员

  • 在内部构建 Agent 平台的工程师,需要一个标准化的轻量级评测流程来审核第三方技能接入。
  • 负责大模型应用质量保障的 QA,希望将权限违规和工具调用错误转化为可阻断发布的回归用例。
  • 维护多个 AI 智能体工具链的技术负责人,需要在技能版本迭代时通过质量门禁控制上线风险。
  • 为业务方评估第三方 AI 插件的产品技术人员,需要输出包含评测覆盖度和关键风险的评估报告。