AI保密监测过滤报警引擎

要解决的问题

AI辅助工作的场景越来越普遍，但AI对话和输出中没有保密守门员。一段装备参数、一个标底价、一条涉密人员信息，都可能通过AI对话被无意泄露。传统内容过滤往往只做关键词匹配，但涉密信息经常以碎片化形式出现：单独一条参数不涉密，与前面的项目代号组合后就构成涉密内容。涉密内容一旦进入AI管道再被截获或外发，事后难以追溯。

核心能力与工作流程

三级检测管线，对输入文本逐句分析：

• 第一道规则引擎（硬匹配，零延迟）：预设涉密关键词库匹配军网代号、密级标识词、标底相关词；正则匹配身份证号、手机号、银行卡号、GPS坐标、IP地址等格式化敏感数据，规则按场景组织在 data/rules/ 下
• 第二道实体识别（NER）：识别人员姓名+职务、涉密机构、装备型号与技术指标、标底价与预算、部署地点与坐标、军网/政府采购项目代号
• 第三道上下文关联：维护对话窗口跨轮次推断，防止单条不敏感的信息组合后升级为涉密

密级推断：按 PUBLIC / INTERNAL / SECRET / TOP_SECRET 四级分类，取命中实体的最高密级，命中2个以上 SECRET 级实体或历史已有 SECRET 内容时自动升级。

分级处置与报警：

• INTERNAL：内容放行，标记并记录
• SECRET：脱敏后输出+告警，按规则替换（如人员姓名→[相关人员]、具体数值→[相关参数]、地名坐标→[某地]）
• TOP_SECRET：完全阻断输出，紧急告警，留痕取证
• CRITICAL（TOP_SECRET+批量泄漏）：全面拦截、邮件告警、审计锁定

审计闭环：监测结果与处置动作写入只追加的审计日志，可用 main.py audit 查询、main.py report --period daily|weekly|monthly 生成合规报告。

进化联动：安装「AI知错进化引擎」后，误判案例回流、纠偏规则反哺规则库，通过 main.py feedback 持续优化检测准确率。

适用边界与注意点

• 所有文本分析在本地完成，不向外部API发送原文，避免二次泄漏
• 规则优先：硬规则是第一道防线，NER与上下文推断只做补充
• 默认策略偏保守，宁可误报不可漏报；被拦截内容可由用户二次确认后强制放行，误报不阻塞工作流
• 审计日志只追加不删除，保证合规可追溯
• 规则库需按本单位密级标准在 data/rules/ 下持续维护