AI安全测试

当前挑战：AI 系统的安全盲区

随着大模型在各类应用中的普及，传统的网络攻击面已扩展到 AI/ML 系统本身。提示注入（Prompt Injection）可能绕过内容过滤机制，越狱攻击（Jailbreaking）能诱导模型生成有害内容，模型提取（Model Extraction）则试图窃取模型能力。这些攻击不仅威胁模型输出的安全性，还可能泄露训练数据中的敏感信息。对于安全团队而言，手动覆盖所有潜在攻击向量耗时且容易遗漏，尤其面对快速迭代的 LLM 生态时，系统化的攻击测试方法论成为刚需。

技能运作：从威胁建模到闭环验证

当激活该技能时，它会加载完整的攻击检查清单作为操作手册。具体工作流程包括：

• 逐步执行清单项：按顺序处理提示注入、对抗输入等攻击场景，除非用户指定特定优先级。
• 上下文适配评估：针对每个技术，分析其对当前目标的适用性（如是否使用 RAG 系统则重点关注数据投毒风险）。
• 进度跟踪机制：标记已完成的清单项，确保测试覆盖的完整性。
• 风险驱动建议：基于发现的安全问题，生成后续修复或加固建议。

适用边界：授权与负责任的测试

该技能仅适用于获得明确授权的测试场景，如内部安全评估或合规审计。使用者需遵守当地法律法规及伦理准则，禁止将其用于未授权的渗透测试。测试结果应作为改进系统安全性的参考，而非直接用于攻击目的。对于涉及实时服务的测试，建议先在隔离环境中验证攻击向量的可行性。