Anthropic SDK Token 用量记录器

解决什么问题

当你在生产环境中调用 Anthropic API 时，很难回答几个关键问题：这次请求用了多少输入 token、多少输出 token、花了多长时间、成本是多少。默认 SDK 只返回响应内容，不负责把这些元数据落到日志里。团队往往需要手动解析 usage 字段，再接入监控系统，写多了既重复又容易遗漏。

本技能就是为此设计的。它在不改变业务调用习惯的前提下，把每次 messages.create 的 token 用量、延迟和成本自动记录下来，再通过 AWS SDK v3 的 CloudWatchLogsClient 发送到 CloudWatch Logs，方便后续查询、告警和成本分析。

技能如何工作

技能对 Anthropic TypeScript SDK 做了 instrumentation，核心是封装 anthropic.messages.create 方法。关键步骤如下：

• 拦截请求与响应：在调用原始方法前后打点，捕获请求参数和响应对象。
• 提取指标：从响应的 usage 字段中读取 input_tokens 和 output_tokens，同时记录请求耗时。
• 成本估算：结合模型定价（需由调用方或配置提供）将 token 数换算为预估成本。
• 结构化日志：将 token 用量、延迟、成本、模型名、请求 ID 等信息组织成 JSON，通过 CloudWatchLogsClient 写入指定日志组。

日志格式统一，字段清晰，可以直接在 CloudWatch 中做 metric filters，也可以接入第三方可观测性平台。

适用边界与注意点

• 需要 Node.js 18+，并确保已安装 @anthropic-ai/sdk 和 @aws-sdk/client-cloudwatch-logs。
• 本技能只处理 messages.create，不覆盖流式响应（streaming）的 token 统计。流式场景下 usage 通常在最后一个 chunk 才返回，需要额外处理。
• 成本估算依赖模型单价，请在日志上下文或配置中提供准确价格，否则成本字段可能不完整。
• 日志写入 CloudWatch 会产生费用，建议设置合理的日志保留期，并避免在高频调用中记录过长请求体。
• 如果已在外部使用 APM 工具，注意避免重复 instrumentation，以免影响性能。

适合需要把 LLM 调用纳入现有云上可观测体系的团队，而不是替代完整的计费或配额系统。