爆炸半径演练
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @user_fccf428b/blast-radius-drill。
技能介绍
问题不在“会不会失控”,而在失控后的范围
无人值守 Agent 的危险通常不是单次误操作,而是权限叠加后的放大:它能读的密钥、能写的目录、能调用的 API、能发送的邮件、能提交的外部动作,一旦被劫持或陷入循环,可能把一次故障变成跨系统事故。这个技能要求在上线前做一次最坏情况演练,把抽象权限翻译成具体后果,再决定哪些动作可以自动执行、哪些必须人工确认。
工作方式:先 worst case,再 containment
- 假设 Agent 已被完全控制,逐个能力推演最大损害:
文件能读走什么 secrets、能破坏哪些目录;发送能触达多少用户;Shell是否等于整机;网络会外泄什么;资金/交易会提交什么。 - 给高爆炸半径能力设置硬上限:每小时
N次、总量M次,超限即halt并告警。目标是让最坏结果被 cap 限制,而不是取决于 Agent 跑得多快。 - 做可逆性审计:把动作分为
undoable(git 中的文件修改、未发送草稿、沙箱内操作)和irreversible(已发邮件、已花钱、公开发布、无备份删除、外部 API 副作用)。不可逆动作在自动化运行中直接拒绝或人工 gated。 - 设计隔离边界:专用账号、受限环境、文件/浏览器沙箱、网络 egress 限制,确保爆炸半径停在 scratch 环境,而不是直接碰到 production。
- 预先写恢复 runbook:精确 kill-switch(撤 token、杀进程、关开关)、审计日志(分钟级回答“它实际做了什么”)、按伤害类型的恢复步骤。这些必须在冷静时写好,2 AM 慌乱时补的流程通常不可用。
适用边界
它不替代权限审查、安全架构或运行时监控,但能把“无人值守”从一句胆子问题变成一组事先确认的边界。如果 Agent 没有任何不可逆权限、无外部资金/网络出口、完全运行在回收型沙箱,演练结果可能很简单;如果它能触及生产数据、客户清单、支付或外部 API,这个 drill 就值得逐能力做完。
使用场景
- 模型给 Agent 开放了文件、网络与发送权限,准备无人值守跑批前,需要逐项确认被完全控制后的最大损害。
- Agent 会调用邮件、API 和外部系统,上线前要把不可逆动作筛出来并设置为人工确认或拒绝。
- 已有的自动化 Agent 没有调用上限,担心循环误操作放大事故,需要给高爆炸半径能力加硬 cap 与 halt。
- 准备把 Agent 接入生产数据库和支付流程,需要在运行前写清 kill-switch、审计日志和恢复步骤。
适合人员
- 负责 Agent 上线的工程师:需要在无人值守前评审权限爆炸半径和隔离边界。
- 平台安全负责人:需要在接入外部账号和生产系统前,建立不可逆动作的授权门槛。
- 自动化产品负责人:需要把长周期批处理 Agent 的最坏情况与恢复流程文档化。
- 内部工具开发者:需要给会读写文件、发消息和调用 API 的 Agent 设计护栏。