智能体Skill评测引擎
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @qomob/xskill-are。
技能介绍
评测智能体技能的质量,往往依赖人工逐条试用:流程不一致、结果难复现,版本迭代后也难以快速判断能力是否退化。
核心能力
该技能将评测过程拆解为可重复执行的流程,帮助团队在统一框架下验证技能表现。它关注技能的输入输出是否符合预期,以及在边界条件下的响应质量。
关键步骤
- 定义评测维度:围绕任务完成度、输出格式、异常处理等方向建立检查项。
- 生成测试用例:构造覆盖常见与边缘场景的输入,用于触发技能的不同分支。
- 执行与评分:按预设规则运行技能,记录实际输出并与期望结果比对。
- 生成报告:汇总成功、失败与需人工复核的用例,形成可追踪的评测记录。
适用边界
该技能适合自动化回归与质量把关,但不能替代对业务语义的人工判断。当任务高度依赖上下文常识或主观标准时,仍需结合人工评审。
使用场景
- 技能版本迭代后,需要跑回归评测,确认任务完成度与输出格式没有退化。
- 技能发布前,检查异常输入下的响应是否符合预期,生成可追踪的评测报告。
- 多个候选技能评估时,按统一维度批量生成测试用例并记录评分结果。
- 用户反馈技能输出异常时,重放对应输入并对比期望输出,定位能力偏差。
适合人员
- 开发 Agent 应用的工程师,需要在合并改动前自动验证技能能力是否回归。
- 负责技能质量的测试工程师,需要把零散用例整理成可重复执行的评测清单。
- 维护团队技能仓库的负责人,希望在版本之间追踪能力变化并保留评测记录。