技能介绍

当 AI Agent 暴露在开放输入时，你缺的不是模型，而是边界

当 AI Agent 需要处理用户输入、第三方数据或外部工具返回的内容时，提示词注入攻击就成了最现实的威胁。攻击者可能通过「忽略以上指令」直接劫持模型行为，也可能在外部数据中夹带恶意指令，甚至伪装成合法角色骗取系统信任。这些攻击不需要破解模型权重，只需要利用自然语言的灵活性就能突破脆弱的提示词设计。

这个技能如何帮你加固防线

该技能从攻击面识别到输出防护，提供一套可落地的防御框架：

识别三类核心攻击面：包括直接指令注入（如「忽略以上指令」）、间接注入（外部数据夹带指令）、角色劫持（伪装成合法角色）。通过结构化检查清单，快速定位当前系统的薄弱环节。
防御型系统提示词模板：明确角色边界，禁止裸执行外部指令，对工具调用设置白名单。模板强调「不泄露系统提示词」和「敏感操作二次确认」，从输入到输出形成闭环防护。
输入过滤与检测清单：包含多语言/编码绕过变体的检测规则，覆盖常见绕过手法。例如，检测是否包含「忽略」「执行」「覆盖」等敏感词，或是否存在异常编码转换。
输出侧防护措施：禁止泄露系统提示词，对敏感操作（如数据删除、权限变更）强制二次确认。通过分级输出（清单/建议/风险等级），帮助开发者快速响应潜在威胁。

别把方法论当银弹：适用边界与注意事项

该技能提供的是防护方法论，而非万能解药。它不保证 100% 拦截所有攻击，尤其在面对新型绕过手法或零日漏洞时仍需结合人工审计。高安全场景（如金融、医疗）必须配合专业红队测试，定期验证防御体系的有效性。此外，技能不适用于需要实时数据或外部系统直连的高频自动化任务，也不替代法律/医疗/财税等需持牌专业人士的确定性结论。