Agent Skills
返回列表
🤖

LLM 应用生产模式

AI Agent 更新于 2026.08.29

将以下提示词粘贴到你的 AI 对话框中：

请根据 https://skillhub.cn/install/skillhub.md，安装 @org-02qudk26/llm-app-patterns。

技能介绍

你在解决什么问题

把 LLM 接进业务时，常见问题不是「会不会调 API」，而是：RAG 管道怎么拆、Agent 该用 ReAct 还是函数调用、提示词如何版本化，以及上线后怎么观测与降级。本技能整理一套偏生产落地的模式清单，思路对齐 Dify 与常见工程实践，用于做架构选型与实现对照，而不是替代具体框架代码。

技能覆盖的核心内容

  • RAG 管道：文档摄入 → 嵌入与存储 → 检索策略 → 带上下文的生成，适合 FAQ、文档问答等场景。
  • 代理架构：ReAct（推理+行动）、函数调用、计划执行、多代理协作；复杂度与成本差异大，文档内附有决策矩阵。
  • 提示词 IDE 模式：带变量的模板、版本管理与 A/B、提示词链，便于把「改 prompt」当成可运维资产。
  • LLMOps：指标、日志与追踪、评估框架，支撑上线后的迭代。
  • 生产模式：缓存、速率限制与重试、回退策略，降低抖动与单点失败影响。

适用边界

这是模式与选型参考，不会替你实现某个向量库或编排平台；矩阵里的「复杂度/成本」需结合你自己的数据规模、延迟与合规要求调整。多代理与研究型任务成本最高，简单 FAQ 往往从简单 RAG 或函数调用起步更合理。文末资源指向 Dify、LangChain、LlamaIndex、Anthropic Cookbook，便于继续查官方细节。

使用场景

  • 企业知识库问答上线前，需要把文档摄入、向量检索与带上下文生成拆成可落地的 RAG 管道步骤并对照检索策略选型。
  • 业务要求 Agent 多步调用内部 API 与数据库，要在 ReAct、函数调用与计划执行几种架构之间做复杂度与成本权衡。
  • LLM 服务已上线，需要定义延迟/失败率等指标、日志追踪链路，并搭一套可重复跑的评估框架做回归。
  • 提示词频繁改动且要灰度，需要带变量模板、版本管理与 A/B 测试，并按提示词链组织多段调用。

适合人员

  • 负责把公司文档做成可检索问答的后端工程师，需要 RAG 四段式架构与简单/混合 RAG 选型依据。
  • 维护生产 LLM 网关的平台工程师，要落实缓存、限流重试与回退，并建立 LLMOps 观测与评估流程。
  • 在方案评审里对比「单 Agent + 工具」与多代理协作的技术负责人，需要决策矩阵里的场景与复杂度对照。
  • 在 Dify 或自研编排里维护提示词资产的全栈工程师，关心模板变量、版本化与链式编排的最佳实践清单。