Agent Skills
返回列表
🤖

用 ZIRAN 探测 AI 代理危险工具链

AI Agent 更新于 2026.08.29

将以下提示词粘贴到你的 AI 对话框中：

请根据 https://skillhub.cn/install/skillhub.md，安装 @user_3c6cb52e/probe-ai-agents-for-dangerous-tool-chains-and-execution-side-effects-with-ziran。

技能介绍

要解决的具体问题

当 AI 代理接入外部工具时，常见风险不是单个工具本身，而是 工具链组合 带来的危险：一个看似无害的 read_file 读取结果，可能被后续 write_file 或 http_post 进一步利用，形成多阶段信任链。若缺少系统化探测，这类风险通常只在部署后被真实攻击者触发，表现为静默副作用、越权执行或数据外泄。

技能如何工作

该技能围绕 图发现式探测 展开：不是只枚举工具清单，而是将代理可用的工具与上下文作为图结构进行探索，观察哪些节点组合会形成危险链路。

核心能力包括：

  • 工具链漏洞发现：识别类似 read_file→h... 的高风险执行路径，而不是只报告单点缺陷
  • 静默副作用监测：关注未在规划中声明的写操作、网络请求或状态变更
  • 多阶段信任利用测试：检查代理是否会在后续阶段复用前序工具输出，并扩大权限边界
  • 阶段化知识图谱：随着探测深入，逐步补充能力图，使后续探针更贴近真实使用场景

关键步骤可概括为：先建立包含工具、权限和上下文的最小图，再通过最小权限验证或沙箱环境运行代理，最终对高危路径做回放与归因。

适用边界与注意点

  • 适用于已在本地或受控环境具备代理系统与协议路径的场景，如通过 MCP、A2A 等接入工具
  • 更适合 预部署安全测试，而非生产环境在线拦截；复杂副作用仍需结合业务策略判断
  • 对工具权限描述不完整或依赖非结构化上下文的目标，误报和漏报可能上升
  • 不替代人工威胁建模；探测结果应作为风险评审输入，而不是自动判定绝对安全

使用场景

  • 接入MCP工具前探测代理是否可能通过工具链组合触发越权写入或网络请求
  • 在沙箱环境复现 read_file→write_file 等多阶段执行路径以确认信任边界
  • 发布AI代理应用前验证工具调用是否会产生未在规划中声明的静默状态变更
  • 针对权限描述不完整的工具集评估危险工具链误报与漏报风险并记录证据

适合人员

  • 正在开发多工具AI代理并需要在发布前定位隐藏危险执行路径的工程师
  • 负责代理应用安全评审并需要验证多阶段信任利用风险的安全工程师
  • 正在集成MCP或A2A工具链并需要验证权限边界是否被扩大的开发者
  • 需要在部署前对AI代理系统做风险评估并输出测试结论的平台运维