Langfuse LLM 可观测性平台与 SDK

解决什么问题

当LLM应用从单次调用扩展到Agent工作流或多步骤链路时，调试常陷入盲区：某个节点的提示词是否符合预期？模型生成结果在哪个环节偏离目标？长链路中token成本如何分布？这些信息要么散落在日志里难以关联，要么完全未被记录，导致问题定位依赖猜测。

核心能力与工作方式

该技能将Langfuse的通用可观测性能力转化为具体的实现模式，核心聚焦四类数据的结构化采集：

• 全链路追踪：记录从输入提示词到输出生成的完整上下文，包括中间步骤的模型调用和工具使用
• 生成质量记录：保存每次生成的输入输出对，支持后续质量评估和问题回溯
• 成本遥测：按模型、请求维度统计token消耗与费用，帮助识别成本异常节点
• 评估数据接入：支持将人工或自动评估结果与追踪链路关联，定位模型表现不佳的具体环节

使用上，它提供标准的Langfuse集成模式，通过API将应用中的追踪数据推送到Langfuse后端。无论是简单的LLM调用还是包含工具使用、多角色交互的Agent流程，都能生成统一的追踪视图。

适用边界与注意点

该技能面向需要深度定制观测逻辑的开发场景，更适合有自有基础设施的团队——官方推荐的生产部署方式是基于Kubernetes的自托管方案。对于仅需基础日志记录的简单应用可能略显复杂。此外，追踪数据的完整性依赖正确的埋点实现，需确保所有模型调用和关键流程节点都接入了追踪逻辑。