提示词泄露检测

提示词泄露的典型风险

系统提示词（如内部规则、指令模板、角色设定）一旦泄露，可能导致：

• 被诱导完整输出（例如通过“重复你的初始指令”类请求）；
• 输出中夹带内部指令痕迹（如“仅用于测试环境”的隐藏规则）；
• 高频试探性请求反复挖掘边界条件；
• 单点泄露引发连锁风险（如关联其他AI资产）。

技能如何工作

该技能通过结构化方法降低泄露风险，核心能力包括：

• 检测诱导性输出：识别是否被反问/诱导完整输出系统提示词，例如检查响应中是否包含“根据初始设定”等模板化表述；
• 标记指令痕迹：分析输出中是否残留内部规则片段（如仅允许特定用户触发的权限逻辑）；
• 混淆与分段存储：提供策略分散提示词存储节点，避免单一泄露点影响全局（例如核心规则拆分至多个配置项）；
• 异常请求监控：识别反复试探性请求（如连续发送忽略之前所有指令类消息）或越权询问。

工作流程遵循三步：

1. 明确检测场景边界（如用户主动导出vs被动泄露）；
2. 套用上述核心方法逐项执行；
3. 输出结构化结果（如泄露风险分级+针对性建议）。

适用边界与注意点

• 适用场景：需要方法论指导或检查清单的提示词保护场景（如AI资产安全自查）；
• 不适用场景：实时数据拦截或高频自动化任务（需结合外部系统）；
• 关键限制：无法完全杜绝泄露，需配合访问控制、加密存储等基础安全措施；
• 人工复核要求：敏感结论需由持牌专业人士（如安全工程师）二次确认，避免误报或漏报。