技能介绍

为什么需要这类扫描

当你改完一个 prompt、换了模型或调整 RAG 检索逻辑后，LLM 或 RAG 应用可能在边界 case 上悄悄劣化：越狱提示突然生效、敏感字段被吐出、检索上下文错配导致回答漂移。这些回归和漏洞往往在冒烟测试里不会暴露，却可能被用户或攻击者先碰到。这个技能把 Giskard 的自动化红队与失败扫描接到开发流程里，在发布前主动发现问题。

技能如何工作

它围绕被测对象组织扫描，而不是只跑几条手工用例。

面向 LLM 与 RAG 应用：支持模型接口和 RAG pipeline 作为扫描目标，配合测试数据集或提示集合。
自动化红队与失败扫描：在用户接触前，用对抗性提示和边界条件探测越狱、泄露与逻辑回归。
可接入现有测试资产：已有 prompt 或测试数据时，可直接作为扫描输入，不必从零搭建评估集。
运行前置条件明确：需要 Python 环境、Giskard 开源包、模型/RAG 访问、测试数据，以及必要的模型凭证。

适用边界与注意点

只覆盖你能访问和提供凭据的模型/RAG 端点，扫描结果依赖测试数据的覆盖度。
面向回归和漏洞探测，不替代安全审计或合规认证；高风险场景仍需人工复核。
基于 giskard-core 的库（如 giskard-checks）可能发送可选、聚合的使用遥测，帮助改进产品，但不含提示、输出或场景文本；如环境有限制，需要自行确认或关闭。