Agent Skills
返回列表
🎨

手势检测

设计多媒体 更新于 2026.08.29

将以下提示词粘贴到你的 AI 对话框中:

请根据 https://skillhub.cn/install/skillhub.md,将 @org-rn88lg3j/xby-gesture-detection 技能安装到 AI 助手中。

技能介绍

这个技能解决什么问题

在人机交互、内容审核或教学辅助这类场景里,手部姿态是常见的输入信号:从监控截图里统计不同手势的出现次数、给视频帧打手势标签、或在无触控界面中识别用户的控制指令。核心问题是:给定一张图像,如何稳定拿到图中每个手势的位置、类型和可信度。自己搭管线要处理模型选型、推理环境和结果解析,而这个技能把「调 API、整理返回数据」这一步封装成可被大模型直接调度的函数。

核心能力与调用流程

技能提供两个工具函数,覆盖图片的两种传入方式:

  • scripts.tools.gesture_detection:接收图片文件链接 dataUrl
  • scripts.tools.gesture_detection_for_data_base64:接收图片的 Base64 编码 dataBase64

大模型在这里扮演路由层:理解意图、选工具、提参数,实际推理由远端 API 完成。标准流程:

  1. 检查 API 密钥:若 scripts.config.settings.api_key 为空,用 AskUserQuestion 询问用户,再通过 scripts.config.set_api_key(key) 保存
  2. 选择工具:按图片是链接还是 Base64 决定调用哪个函数
  3. 提取参数:从用户输入中解析图片地址或编码
  4. 关键字参数调用:例如 scripts.tools.gesture_detection(dataUrl=...)
  5. 整理结果:从 result["raw"] 取出 JSON 数据,连同 result["success"]、result["message"] 一起展示

返回内容包含每个目标的检测框、置信度和手势标签。

使用边界

  • 密钥是硬前提:没有 XBY_APIKEY 时必须向用户索取,禁止自行搜索或编造数据
  • 参数不完整要追问:拿不到图片链接或 Base64 时用 AskUserQuestion 补齐
  • 它只做检测:不负责手势到动作的映射或跨帧追踪,多帧连续分析需要自己组织多次调用

使用场景

  • 内容审核时需确认截图或视频帧中是否存在特定手势,拿到检测框与置信度作为判据
  • 统计一段监控素材里不同手势的出现次数,按标签聚合并记录每条置信度
  • 给互动课件截图批量打手势标签,输出检测框坐标用于在原图上绘制标注
  • 离线图片需先转成 Base64 传入,完成手势检测后解析返回的原始 JSON 结果

适合人员

  • 做图像内容审核的工程师,需要在无人工逐张排查的情况下为手势违规判定提供结构化依据
  • 开发体感交互产品的工程师,要把摄像头画面里的手势坐标和标签接入自己的控制系统
  • 负责制作互动课件或演示素材的设计师,想快速为大量截图补充手势标注信息
  • 编写自动化视觉处理脚本的工程师,希望把手势检测封装成可被大模型调度的函数步骤