手势检测
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,将 @org-rn88lg3j/xby-gesture-detection 技能安装到 AI 助手中。
技能介绍
这个技能解决什么问题
在人机交互、内容审核或教学辅助这类场景里,手部姿态是常见的输入信号:从监控截图里统计不同手势的出现次数、给视频帧打手势标签、或在无触控界面中识别用户的控制指令。核心问题是:给定一张图像,如何稳定拿到图中每个手势的位置、类型和可信度。自己搭管线要处理模型选型、推理环境和结果解析,而这个技能把「调 API、整理返回数据」这一步封装成可被大模型直接调度的函数。
核心能力与调用流程
技能提供两个工具函数,覆盖图片的两种传入方式:
scripts.tools.gesture_detection:接收图片文件链接dataUrlscripts.tools.gesture_detection_for_data_base64:接收图片的 Base64 编码dataBase64
大模型在这里扮演路由层:理解意图、选工具、提参数,实际推理由远端 API 完成。标准流程:
- 检查 API 密钥:若
scripts.config.settings.api_key为空,用 AskUserQuestion 询问用户,再通过scripts.config.set_api_key(key)保存 - 选择工具:按图片是链接还是 Base64 决定调用哪个函数
- 提取参数:从用户输入中解析图片地址或编码
- 关键字参数调用:例如
scripts.tools.gesture_detection(dataUrl=...) - 整理结果:从
result["raw"]取出 JSON 数据,连同result["success"]、result["message"]一起展示
返回内容包含每个目标的检测框、置信度和手势标签。
使用边界
- 密钥是硬前提:没有
XBY_APIKEY时必须向用户索取,禁止自行搜索或编造数据 - 参数不完整要追问:拿不到图片链接或 Base64 时用 AskUserQuestion 补齐
- 它只做检测:不负责手势到动作的映射或跨帧追踪,多帧连续分析需要自己组织多次调用
使用场景
- 内容审核时需确认截图或视频帧中是否存在特定手势,拿到检测框与置信度作为判据
- 统计一段监控素材里不同手势的出现次数,按标签聚合并记录每条置信度
- 给互动课件截图批量打手势标签,输出检测框坐标用于在原图上绘制标注
- 离线图片需先转成 Base64 传入,完成手势检测后解析返回的原始 JSON 结果
适合人员
- 做图像内容审核的工程师,需要在无人工逐张排查的情况下为手势违规判定提供结构化依据
- 开发体感交互产品的工程师,要把摄像头画面里的手势坐标和标签接入自己的控制系统
- 负责制作互动课件或演示素材的设计师,想快速为大量截图补充手势标注信息
- 编写自动化视觉处理脚本的工程师,希望把手势检测封装成可被大模型调度的函数步骤