技能回归测试
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @user_2a52e6b3/skill-regression 到 AI 助手中。
技能介绍
要解决的问题
直接修改 SKILL.md 之后,你不知道这份文档是否还能指导模型完成任务:纯人工评审看不出措辞变化对执行的影响,等线上跑挂了才发现回归已经发生。
它如何工作
- 测试用例驱动:目标技能目录下放置
TEST.md,描述触发消息、script_cmd、预期输出与断言模式;文件名自动规范化,遗留的Test.md、TESTS.md会被重命名。 - 两层测试:脚本层用子进程跑命令并做
contains/regex/exact断言;AI 层用 LLM-as-judge 按 0–10 分评估 agent 回复是否符合expected_agent_response。 - 双后端执行:
api后端直接调用 LLM API,验证文档本身写得够不够清楚;openclaw后端通过 Cron 探测任务驱动真实 agent 运行,验证端到端集成。 - Markdown 报告:脚本层与 AI 层结果合并后生成报告,可选通过
SR_REPORT_UPLOAD_HOOK上传。
适用边界与注意点
api后端只测「文档能否被遵循」,不等于真实 agent 行为测试。openclaw后端需要 OpenClaw 运行时,会为每个目标 agent 创建skill-regression-probe--命名空间的定时任务。- 评判模型与模拟模型通常是同一家族,分数只能当方向性参考,高风险场景要看详细报告。
- LLM 自动生成的占位用例默认
skip_agent=true,建议尽快补写真实的TEST.md。
使用场景
- 修改 SKILL.md 后运行回归,确认模型仍能按文档完成任务
- 给技能编写 TEST.md,用脚本断言校验命令输出是否符合预期
- 在 OpenClaw 环境部署技能,用 cron 探测任务跑端到端集成测试
- 评审技能文档质量,用 LLM 评分判断 SKILL.md 是否易于遵循
适合人员
- 需要给 AI Agent 技能写回归测试的开发工程师
- 维护 SKILL.md 并验证模型可执行性的技术负责人
- 搭建 agent 与技能集成测试流程的 DevOps 工程师
- 希望用 LLM-as-judge 对技能文档做质量评审的 QA 工程师