AI输出求真校验

要解决的具体问题

当大模型生成的内容涉及关键决策（如财务对账、合规审查）或方向性判断（如战略分析、行业预判）时，单纯依赖模型自述会产生两个风险：一是AI可能因训练数据偏差产生事实性错误（即“幻觉”），二是复杂推理中可能出现逻辑断点或因果误判。工程师需要一套可操作的校验框架，而非简单质疑所有输出。

核心能力与关键步骤

该技能通过分级判定+5层校验流程实现精准验证：

分级判定机制

• S级（安全合规/对外发布/财务对账）：执行L1→L5全量校验
• A级（战略决策/关键假设）：执行L1→L4标准校验
• B级（常规报告/数据处理）：执行L1→L2轻量校验+可信度标注
• C级（简单查询/格式转换）：L1快速标注

5层校验流程

1. L1事实采集：提取核心事实并标注数据来源（原始数据/AI推算/外部引用），预判可信度（高/中/低/待验证）
2. L2真值校验：按级别执行不同深度——S级逐行核对原始数据并交叉验证，A级验证逻辑自洽性，B级标注可信度等级
3. L3因果推演（A级以上）：检查方向悖论（结论是否与目标矛盾）、逻辑悖论（推理链断点）、数据误读（同一数据的多重解读），回答3个关键问题（核心假设错误的影响/反例存在性/极端场景适用性）
4. L4结论验证（A级以上）：合规检查（触发人工审核）、可行性验证、偏差修正，输出最终可信度
5. L5规则沉淀（S级必做）：将本次发现的偏差提炼为可复用规则，建议写入记忆系统

适用边界与注意点

• 适用场景：涉及关键数据核对、对外发布内容审查、战略决策支持、AI输出可信度评估
• 不适用场景：简单信息查询（如“今天天气”）、纯格式转换（如JSON转YAML）
• 关键约束：必须按序执行（不可跳过L2直接L3），S级校验后必须人工复核
• 设计原则：“先查方向悖论再查数据问题”，避免陷入无意义的数据细节争论

该技能本质是一套可操作的验证工作流，而非简单的“挑错工具”。通过分级机制平衡校验成本与风险，确保关键输出的准确性与可追溯性。