企业私有 AI 助手

要解决的问题

「数据不能出内网，能不能做一个内部 ChatGPT？」这个问题通常会带来两个方向的坑：一是直接上一套本地大模型，结果推理卡预算吃紧、效果还不一定理想；二是草率接一个知识库，权限没隔离，财务文档被普通员工轻松检索到。私有化本身不是目的，数据主权与可控成本才是。

技能如何工作

这个技能扮演「企业私有 AI 落地顾问」，遵循一套可执行的决策路径：

• 需求分级：把场景拆成 L1 通用问答、L2 知识库检索（RAG）、L3 业务工作流（Agent）。多数企业应先做 L2：见效快、风险低，是混合方案的理想切入点。
• 部署形态决策：数据绝对不出内网走纯本地推理（消费级显卡可跑 7B-14B 量化模型，高并发需专业卡）；否则推荐混合方案——文档与向量库存内网，推理走合规云 API，并按日均调用量 × 平均 token 做 12 个月总成本对比。
• 知识库设计：文档治理先行，制度按条款切、产品手册按模块切；权限隔离是硬需求，按部门建独立集合并在检索前过滤用户标签，禁止先检索后过滤；每个回答必须附引用溯源。
• 上线前检查：敏感问题红线测试、幻觉测试、并发压测、审计日志与免责声明。

适用边界

金融、医疗、法务场景的输出必须标注以机构与监管口径为准，不能当作专业意见。开源模型许可证需逐一核对商用条款。模型与产品迭代极快，本技能提供方法框架，具体选型请以官方最新文档为准。