AI/ML安全攻击手册

要解决的AI/ML安全问题

随着AI/ML模型在生产环境的广泛部署，模型从训练数据到上线的全链路都暴露出新的安全风险：开发者常低估pickle反序列化带来的远程代码执行（RCE）风险，也难以察觉Hugging Face等模型仓库中的供应链投毒问题；黑盒场景下，模型可能被攻击者通过少量查询窃取核心能力，这类威胁的实操性往往被低估。此外，对抗样本、训练数据投毒、成员推理等攻击手段，还会直接损害模型的可用性与数据隐私。

核心覆盖场景

该技能围绕AI/ML全生命周期的关键威胁展开，覆盖：

• 模型供应链攻击：包括恶意序列化文件、Hugging Face模型投毒等风险
• 对抗样本攻击：覆盖FGSM、PGD、C&W及物理世界对抗样本等主流手法
• 训练数据投毒：针对模型训练阶段的数据污染攻击
• 模型提取：黑盒/白盒场景下的模型能力窃取
• 数据隐私攻击：成员推理、模型反转、梯度泄漏等隐私泄露风险
• LLM相关威胁与自主Agent安全

适用边界与注意点

该技能为专家级AI/ML安全攻击手册，不覆盖通用LLM提示注入、越狱等专项安全内容，相关场景需结合llm-prompt-injection技能使用；针对Python pickle等反序列化攻击的深度内容，需参考deserialization-insecure技能。使用时需结合具体业务场景验证攻击手法的可行性，避免脱离实际环境套用理论。