技能介绍

解决什么问题

在构建和部署机器学习系统时，开发者往往过度关注模型精度而忽视了底层的安全风险。基础模型在评估 pickle 反序列化导致的远程代码执行（RCE）以及黑盒模型提取的实际可行性时，常常会严重低估这些威胁的严重程度。一旦模型供应链被污染，或者训练数据被投毒，后果不堪设想。本技能旨在为工程师提供一套专家级的 AI/ML 安全攻防手册，帮助团队在模型生命周期的各个阶段识别并缓解潜在的安全漏洞。

核心能力与工作流

该技能通过结构化的攻击剧本（Playbook）来指导安全审计与防御设计，核心覆盖以下关键领域：

模型供应链攻击：分析恶意序列化文件带来的 RCE 风险，以及 Hugging Face 等平台上的模型投毒（Model Poisoning）机制。
对抗样本与鲁棒性：涵盖 FGSM、PGD、C&W 等经典对抗攻击算法，以及物理世界对抗样本的生成策略。
数据隐私与泄露：深入探讨成员推断攻击（Membership Inference）、模型反转（Model Inversion）和梯度泄露（Gradient Leakage）等隐私威胁。
LLM 与智能体安全：针对大语言模型特有威胁及自主代理（Autonomous Agent）的安全漏洞提供专项指导。

在实际使用中，你可以将其作为安全审查的对照清单。例如，在引入第三方预训练权重时，通过本技能排查序列化风险；在部署推理服务时，评估黑盒模型提取的攻击面。对于更细分的场景，技能还提供了路由指引，如 llm-prompt-injection 用于处理提示词注入，deserialization-insecure 用于深入 Python 反序列化漏洞，以及 dependency-confusion 应对 ML 流水线中的依赖包混淆风险。

适用边界与注意事项

本技能侧重于攻击向量的解析与防御策略的规划，而非自动化漏洞扫描工具。它要求使用者具备一定的机器学习基础和 Python 安全知识，以便正确理解攻击原理并落地相应的防护措施（如模型签名验证、输入数据净化、差分隐私等）。请勿将其作为免责免责声明的唯一依据，关键业务系统仍需结合专业的安全团队进行深度的红蓝对抗演练。