幻觉治理协议

要解决的问题

大模型在面对论文数据、实时行情、私有业务资料时，可能把缺失信息补成看似可信的答案；长文生成中也可能前后数据冲突。用户若明确要求编造或虚构，仅靠提示词劝诫很容易被绕过。企业侧还关心问答是否可追溯、是否分级拦截，而不是事后人工翻聊天记录。

协议如何工作

HGP 将管控拆为六条可组合规则：

• 规则一 前置信息筛查：涉及论文数据、实时行情、私有业务资料时先检查素材完整性，缺失则拒绝编造。
• 规则二 强制可信度说明：每次实质性回答后附加四行说明：可信度、来源、盲区、建议。可信度低于 60% 时，必须同时触发规则一。
• 规则三 长篇分段自检：单段超过 800 字时检测数据冲突，发现冲突则停止并提示。
• 规则四 诱导编造拦截：识别“直接编造”“虚构”等要求，拒绝并输出固定拦截话术。
• 规则五 全程留痕追溯：在企业部署环境中，每条问答记录存档，包含编号和时间戳；需配合日志系统。
• 规则六 分级决策交还：按低/中/高风险执行继续、暂停或仅供参考；金融、法务、政务等高风险场景，AI 只提供参考素材，结论须人工确认。

整体启用时，将 references/full-protocol.md 的六条规则完整粘贴到系统提示词；按需拆取时，规则一至四、六可独立提取，规则五需配合日志系统。个人工具的最小配置至少启用规则一、二、四。

适用边界与注意点

它不是事实校验器本身，不会自动补全外部数据，也不能保证私有资料真实准确；它依赖上游素材完整性和日志系统。规则触发有阈值和场景边界，800 字、60% 等需要结合业务校准。高风险场景必须保留人工确认环节，不能把分级决策当作免责条款。