技能介绍

它解决什么问题

传统应用安全扫描（OWASP Top 10、依赖漏洞扫描）覆盖不到 LLM 特有的攻击面：提示注入可以覆盖系统指令，越狱模板能让模型绕过安全对齐，模型反演可能从输出中重建训练数据，数据投毒会在训练集里埋后门，而带工具的 Agent 还可能被诱导执行危险操作。这些风险发生在模型输入侧、训练侧和工具调用链上，常规渗透测试和基础设施行为监控都看不清楚。

技能如何工作

核心工具是 ai_threat_scanner.py，采用静态签名匹配，不需要连接线上模型，在输入进入模型前完成评估。测试输入为 JSON 数组，支持纯字符串或带 prompt 键的对象。工具按风险等级返回退出码：0 低风险、1 中高风险、2 严重风险或越权测试。

检测覆盖五类问题：

提示注入：内置 direct_role_override、indirect_injection、jailbreak_persona、system_prompt_extraction 等签名，注入得分（0–1）反映命中比例，超过 0.5 说明注入面过宽
越狱评估：按角色伪装、假设情境、开发者模式、编码混淆、多轮试探五类方法论测试
模型反演：按白盒/灰盒/黑盒访问等级评分（0.9/0.6/0.3），给出差分隐私、关闭 logit 输出等缓解项
数据投毒：按微调范围（fine-tuning 0.85、RLHF 0.70、RAG 0.60 等）评估风险面
Agent 工具滥用：检测直接工具注入、间接劫持、审批门绕过，并给出人工审批、最小工具权限、审计日志等护栏方案

所有发现映射到 MITRE ATLAS 技术（如 AML.T0051 提示注入、AML.T0020 投毒训练数据），配套三阶段工作流：20 分钟快速扫描、完整评估（静态分析→风险评分→护栏设计）、CI/CD 安全门禁。