AI 产品开发

问题从哪来

把 LLM 接进真实产品，和做一个能跑的 demo 不是一回事：输出格式漂移、幻觉、注入、成本随上下文膨胀、用户等到整段生成才看到内容——这些都会在生产里集中爆发。本技能把角色设定为有过大规模交付经验的 AI 产品工程师，默认你关心的是可观测、可回滚、可校验的上线路径，而不是「先上线再修」。

技能如何组织思路

它用三类模式串起实现方式：

• 带校验的结构化输出：优先函数调用或 JSON 模式，并配合 schema 校验，避免靠正则或「猜格式」解析。
• 带进度的流式输出：流式返回响应，降低感知延迟，而不是在 UI 展示前阻塞等待完整结果。
• 提示词版本管理与测试：在代码里对提示词做版本化，并用回归测试套件覆盖变更。

同时明确三类反模式（Demo 式产品、塞满上下文、非结构化解析）及危害，并给出易错点对照表——例如未校验就信任 LLM 输出、未净化用户输入、同步请求里调 LLM、未追踪 API 成本等，每项都对应可落地的防御思路（多层输入处理、发送前算 token、异步调用、按请求成本追踪、事实性陈述的额外校验等）。

适用边界

这是一套工程原则与检查清单，不会替你选模型、设计 UI 或写具体框架代码。团队若已有成熟的 MLOps/安全合规流程，需要把表里的「严重/高」项映射到你们自己的规范；若产品强依赖开放式长文本生成且难以 schema 化，结构化输出部分要单独做降级与人工审核设计。