Agent Skills
返回列表
🤖

AI安全测试

AI Agent 更新于 2026.08.29

将以下提示词粘贴到你的 AI 对话框中：

请根据 https://skillhub.cn/install/skillhub.md，安装 @user_3c6cb52e/ai-security-sh-05pl5c。

技能介绍

要解决的问题

AI/LLM 系统暴露面不再只是传统 Web 漏洞：用户输入会直接改变模型行为，RAG 召回结果可能夹带恶意指令，自动化代理还能把一次成功注入放大成工具调用。这个技能面向安全测试与红队场景，帮助把抽象风险拆成可验证的检查项，而不是只给出“更安全”的口号。

核心能力与工作方式

触发词覆盖 AI security、LLM security、prompt injection、jailbreak、model extraction、training data poisoning、adversarial input、AI red team、ML security、RAG poisoning、AI attack。激活后，它会把完整方法论当作操作清单：

  • 按顺序加载并执行检查，除非用户明确要求调整优先级；
  • 对提示注入、越狱、模型抽取、训练/RAG 投毒、对抗输入、LLM 辅助攻击自动化和 AI 系统侦察逐项评估适用性；
  • 记录已完成的 checklist 项，并基于发现建议下一步；
  • 对当前目标与上下文判断技术是否成立，避免机械套用模板。

适用边界

它适合评估 AI/ML 系统、红队 LLM 和研究 AI 攻击向量，但不等于自动漏洞修复或合规认证。测试应在有授权的系统上进行，结果需结合人工复核；模型版本、检索数据、工具权限和提示词变化都会影响结论，因此要把输入、输出和上下文留痕。

使用场景

  • 为上线前的LLM助手做红队测试，验证用户输入能否绕过内容过滤或触发危险指令。
  • 审计RAG系统时，检查检索语料是否被投毒，导致回答中注入恶意提示。
  • 对内部AI代理进行攻击面梳理，确认模型抽取、对抗输入等风险点是否可复现。
  • 评估自动化LLM攻击工具时，验证其能否按清单生成越狱提示并记录成功次数。

适合人员

  • 负责LLM应用上线的安全工程师，需要在版本发布前完成提示注入与越狱风险复测。
  • 企业红队成员，需要对AI代理、RAG问答和模型接口做授权渗透并出具风险报告。
  • AI平台研发人员，需要在训练数据、检索语料和对抗样本上验证污染与鲁棒性影响。
  • 机器学习评估人员，需要设计对抗输入用例并确认模型抽取与数据投毒的可观测信号。