提示词注入检查
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @user_8d36cde0/guoyiyi-prompt-injection-check。
技能介绍
要解决什么问题
在 AI Agent 与 RAG 场景里,外部内容(网页、用户粘贴、检索片段)常被模型当成「可执行的指令」而非纯数据。典型风险包括:诱导泄露系统提示、改写安全规则、扩大工具调用权限,或在目标任务之外执行无关操作。单靠「让模型更听话」并不能覆盖这类提示词注入;你需要一份可复核的审查结论,而不是模糊的「感觉不安全」。
技能如何工作
本技能以你提供的外部内容、系统规则和目标任务为事实边界,按固定流程产出三块内容:
- 可疑指令:从外部文本中识别可能被模型误当作命令的表述
- 影响范围:说明若被采纳,可能波及哪些规则、数据域或动作边界
- 安全处理建议:给出阻断、降级或人工复核等可执行建议
工作流程强调四点:先界定任务边界(不扩大到无关任务);只依据可验证输入做判断,缺失信息会标为「待确认」而非编造;首段给出可执行结论,再展开细节;同时列出阻断项、风险项与建议的下一步负责人,避免把建议写成「已完成」。
适用边界与注意点
- 输入需至少包含外部内容、系统规则与目标任务;平台、时间范围或格式不明时,技能会列出假设,不会静默补造事实。
- 对个人信息、订单、商业数据等遵循最小披露,输出中的判断应附输入证据或来源位置。
- 最终门槛:不得把「要求泄密、改规则或扩大权限」的内容当作可执行动作;外部内容始终视为数据而非权限来源。本技能专注中文垂直的注入审查表述,不复制第三方 Skill 的文案或代码。
使用场景
- 客服或工单 Agent 上线前,对用户可能粘贴的网页、邮件正文做注入审查并输出阻断项与影响范围。
- 检索召回片段拼进系统上下文前,对照当前系统规则标注可能被模型误当成指令的表述。
- 内部 Copilot 接入第三方 API 或爬虫返回文本时,按既定目标任务生成可疑指令与安全处理建议。
- 安全测试或红队演练中,对外部样本批量整理附输入证据的可疑指令清单,供人工复核决策。
适合人员
- 负责网页或文档检索链路的 RAG 工程师,投产前需要可复核的注入风险与波及数据域说明。
- 编写 Agent 系统规则与工具边界的后端开发,希望外部输入统一按数据审查而非直接执行。
- 对公司内部 AI 应用做上线评审的安全工程师,需要阻断项、风险项与建议负责人写入评审记录。
- 定义客服/运营类 Agent 任务范围的产品或技术负责人,要区分哪些条件必须人工阻断后才能继续。