人机协作认知陷阱破解
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,将 @user_84aa03cf/chenlin-human-ai-trap-breaker 安装到你的 AI 助手中。
技能介绍
先承认一个不太舒服的事实
人机协作的头号失效模式不是"未知区",而是假开放区(Phantom Open Zone):某条知识其实在你的隐藏区(你知、AI 不知),你却误以为它在开放区,于是不披露;AI 为了不丢分,用同样自信的口气把空缺编上;你因为"以为是共识"而全盘接受。眼科疑难病例的临床实验里,人机协作把准确率从 0.45 提到 0.60,仍低于 AI 单干的 0.70,且 20% 的人协作后反而变差——失败案例中 58.6% 都是"AI 给出错误见解、人直接接受"。
第二个陷阱是不认错合谋(Mirror Collusion):认知失调让人死抱自己的错,RLHF 让 AI 死抱你的错。两者互相确认、零学习,恰好是假开放区在协作中的样子。
它怎么工作
陷阱标签化:收到协作质量问题,先贴标签——假开放区 / 双盲编造区 / 不认错合谋。判据只有一条:你脑里到底有没有那块知识。标签贴错,后续杠杆全偏。
步骤 A · 协作前,披露默认过度:把"我以为你懂、所以没说"的前提、顾虑、风险判断先抛出来。一句"我已知但你不一定知道的是 X"能挡掉大部分编造。
步骤 B · 协作中,5 个探测信号:
- 自洽性检验:同一题答 5 遍,发散=在猜(语义熵原理)
- 换词复问:换种说法答案变了=在猜
- 强制举证:给不出可核查来源 = 在未知区
- 多模型对照:分歧点是未知区入口
- 给"不知道"台阶:降低编造动机
最实用的组合是 强制举证 + 自洽性检验。别信它口头说的置信度——说"95% 确定"常只对 70%。
步骤 C · 双向对抗合谋:对人,用事前验尸绕过 ego 防线;对 AI,用元认知式提示——先列 3 条最强反对、批评与赞美分开、注入异议。MetaFaith 证实这类提示让忠实不确定性表达 +61%,而朴素的"不确定就说"改善有限。
适用边界
不代决策:只做陷阱探测与破解提示,不替用户执行动作。不神化也不妖魔化:AI 没有 ego,改口零成本,比不认错的人更容易修好;真正卡死的是"只要不认错就没错"的人。双盲编造区无内援:双方都空时只能靠外部脚手架(举证、多模型),别指望核对开关。另需诚实标注:现有实证来自国际同行评议文献,中国本土语境下的效应量尚未补齐。
最小行动
下次和 AI 聊重要的事,先写一句「我已知但你可能不知道的是:___」,再要求一句「先列 3 条你反对我这个想法的理由」。两步同时破解披露不足与谄媚合谋。
使用场景
- 医生让 AI 辅助分析疑难病例时,判断它给出的诊断依据是否有可核查来源,避免把编造当共识
- 用 AI 起草技术方案后,负责人不确定哪些结论它真正掌握、哪些是瞎猜,需要先贴陷阱标签再核对
- 与 AI 共同决策产品方向时,担心它一味附和已有观点不敢反对,需要用元认知提示逼出反对意见
- 研究者让多个模型交叉验证同一事实时,需要通过分歧点定位双方都不知道的未知区
适合人员
- 临床医生:与 AI 共同诊断疑难病例时,需要判断它的依据是否有来源、是否属于自信编造
- 产品经理或方案负责人:用 AI 起草方案后,需要区分它真正掌握的结论与瞎猜的内容
- 研究分析师或事实核查者:验证 AI 输出是否可核查,在协作中守住真相裁判的角色
- 技术负责人:在团队人机协作流程中,需要用举证纪律和元认知提示防止谄媚合谋