Agent Skills
返回列表
我捕获了AI幻觉漏洞

我捕获了AI幻觉漏洞

知识管理 更新于 2026.08.30

将以下提示词粘贴到你的 AI 对话框中:

请根据 https://skillhub.cn/install/skillhub.md,安装 @user_fa14b5bc/hallucination-bug-catcher。

技能介绍

问题:幻觉藏在流畅的段落里

大模型写稿时,具体数字、人名、报告标题往往听起来很可信,却可能根本没有出处。这类 AI 幻觉不是语法错误,而是事实性断言在训练记忆或推理跳跃中被「补全」出来——你往往在发布前才靠搜索发现报告或教授并不存在。

技能如何工作

幻觉捕手在展示 AI 正文前(或按你指定的段落),对有实质内容的事实性断言做扫描,而不是给每句观点打标签。

  • 六种漏洞类型(B1–B6):数据、人名、出处、事件、定义、因果——便于归类与复盘。
  • 四级置信度:🟢 已验证、🟡 合理推断、🟠 存疑、🔴 疑似幻觉;🔴 表示在模型视角下找不到可靠依据,用语是「疑似」「建议核实」,而非直接判假。
  • 捕猎闭环:生成 → 标记 →(默认模式下 🔴 时)附漏洞报告 → 你决策是否删改 → 写入 bug-hunt-log.json 猎杀日志。
  • 核实策略:如搜索引擎验数据/事件、反向搜人名、在 Scholar 等验标题、交叉验证与常识对照;无法验证时可替换为可追溯来源(由你确认)。
  • 模式:默认输出前扫描、高灵敏度(🟡 也报告)、仅统计、手动选中「扫描这段」。

边界与注意

捕猎器做的是 AI 自检,不能替代人工或第三方事实核查,也不保证 100% 捕获;不自动删改原文;常识性事实(如首都)默认 🟢;只处理文本中的可验证断言,不验图片、表格、代码及时效是否过时。

使用场景

  • 用 AI 起草含具体百分比、报告名或论文标题的对外长文,发布前默认扫描,拦截 🔴 疑似数据与 B3 出处幻觉并附核实路径。
  • 撰写投标或商业方案时,输出里出现专家人名、机构头衔或政策发布时间,需在展示前拿到漏洞报告再决定是否删改。
  • 准备学术摘要或正式对外报告时开启高灵敏度,对 🟡 合理推断也逐条报告,按交叉验证与标题检索策略人工确认。
  • 编辑过程中怀疑某段编造了调查或事件,选中该段触发手动「扫描这段」,按 B1–B6 分类记录到猎杀日志便于复盘。

适合人员

  • 负责公众号或行业趋势稿、常让 AI 补数据与引文的内容编辑,发布前必须筛掉虚构报告与统计。
  • 写投标书与客户方案、交付物里不能出现捏造案例数据的售前或解决方案顾问。
  • 协助课题组或法务整理正式报告的研究/合规助理,需要事实断言清单与 `bug-hunt-log.json` 留痕。
  • 已使用写作审查或记忆词条类 Skill、希望在审查流程里自动检查 🔴 未处理幻觉的知识库维护者。