AIFlowTime 最新文章列表

· Anthropic · Claude · OpenTelemetry · AI 代理

Claude Platform 開放 OpenTelemetry:把 AI 代理的每一步,接到你自己的監控工具

Anthropic 於 2026-10-14 宣布 Claude Platform 的 OpenTelemetry 匯出進入公開測試:Messages API、Managed Agents 與官方 SDK 可把延遲、token、工具呼叫送到 Grafana、Sentry、Langfuse 等現有觀測棧。適合一人公司與中小企把背景 AI 代理變成可追蹤的系統。

溫暖編輯風封面:書桌與浮動監控卡,示意把 AI 代理接到自己的觀測工具
AI 生成圖片

Claude 開放 OTel 匯出

Anthropic 在 2026 年 10 月 14 日(官方 Release notes 日期)宣布:Claude Platform 的 OpenTelemetry 匯出進入公開測試(public beta)。官方開發者帳號 ClaudeDevs 同日也發文說明,Messages API、Claude Managed Agents,以及 Claude SDK,都可以把追蹤資料送到你自己的觀測(observability)系統。

簡單說:以前 AI 代理一出錯,常常只能在聊天紀錄裡「猜」是哪一步壞了;現在可以把每一次模型請求、工具呼叫、token 用量與延遲,用業界通用的 OpenTelemetry 格式,接進 Grafana、Sentry、Langfuse、LangSmith、Datadog 等你已經在用的工具。

官方文件強調:這仍是 beta,受 Anthropic 服務條款中 Beta 服務相關條文約束;SDK 選項與 span 結構在測試期間也可能改動,建議在相依套件中固定 SDK 版本。

ClaudeDevs 官方示範:Managed Agents 工作階段的追蹤時間軸,可見失敗的工具呼叫與各 span 耗時
圖片來源:ClaudeDevs 官方公告影片截圖

SDK 與 API 雙路徑

1. 兩種接法:SDK 追蹤與 API 追蹤

官方文件說明,你可以只開其中一種,也可以兩種一起開,讓同一個請求的 SDK span 與 API span 出現在同一條 trace 裡(若走 Claude Platform on AWS,API span 會落在自己的 trace)。

你能看到什麼 SDK 追蹤 API 追蹤 兩者一起
Messages API 請求 有 有 有
Sessions API 請求 有 有 有
Token 用量 有 有 有
單次請求內每次模型執行 — 有 有
Managed Agents 的每一輪(turn) — 有 有
由 API 執行的伺服器端工具 — 有 有
由 tool runner 執行的客戶端工具 有 — 有
設定方式 在程式裡接 OpenTelemetry 在 Console 加 destination 兩邊都設
需要的權限 無特別 Console 權限 Admin(Developer 只能查看) Admin

SDK 目前會發出 span 的語言包括:Python、TypeScript、C#、Go、Java、PHP、Ruby。API 追蹤則是到 Claude Console 的 OpenTelemetry destinations 新增目的地,不需要改呼叫端程式碼。

官方示範:在 Claude Console 新增 OpenTelemetry destination,可選 Metadata only 或 Full content
圖片來源:ClaudeDevs 官方公告影片截圖

2. 內容模式:預設只送中繼資料

每個 destination 與每個 SDK client 都有內容模式:

  • Metadata only(預設):span 帶識別碼、時間、狀態、token 數,以及你自行命名的代理與工具的名稱與描述,以及 MCP 伺服器名稱;不包含提示詞或工具內容。
  • Full content:另外包含模型提示與回應,方便排查失敗原因、重讀對話,以及用真實流量做評估(eval)。

若組織與 Anthropic 有 HIPAA、FERPA 或 K-12 資料處理限制,destination 不論設定如何都只匯出 metadata;SDK span 不受這條限制影響。零資料保留(zero data retention)下,Messages API 仍可用 Full content(內容只暫存在記憶體直到送到目的地);Claude Managed Agents 不符合零資料保留資格。

Full content 時,每個 span 預設最多約 0.75 MB 內容(官方說大致可容納 20 萬 token 的英文上下文,並低於許多觀測平台常見的 1 MB 請求上限)。超限會截短並標記 anthropic.content.truncated=true。

3. 可接到哪些平台

官方列出支援 OTLP 的合作平台,包括:Arize AI、Braintrust、Databricks、Datadog、Grafana Cloud、Honeycomb、Langfuse、LangSmith、New Relic、PostHog、Sentry、Splunk,也可選 Custom 自填 OTLP/HTTP 端點。LangChain 同日表示,Claude Platform 的 traces 可經 OpenTelemetry 進入 LangSmith,用來檢視每一步並改善代理表現。

API destination 需要 OTLP/HTTP、protobuf、HTTPS、443 埠;若自架 OpenTelemetry Collector,預設 OTLP/HTTP 在 4318,需改成 443 的 HTTPS,或在前面加負載平衡/反向代理。

4. 怎麼讀一條 trace、怎麼算 token

官方舉例:Messages API 搭配 tool runner 時,你會看到 anthropic.messages.tool_runner、每次 anthropic.messages.create,以及伺服器端工具/自訂工具的 span。Managed Agents 則會有 Sessions API 請求 span、每一輪 anthropic.session.turn,以及模型請求與工具 span。

計算 token 時,同一個請求若同時有 SDK 與 API span,只加總其中一邊,避免重複計算。官方也提醒:匯出是 best effort,span 可能遺失;若要追蹤每個 API key 的用量(例如發現金鑰外洩),仍應使用 Usage API。

Beta 可用需 Admin 權限

誰可以用:SDK 路徑(程式碼)與 API 路徑(Admin Console destination)對照
AI 生成圖片
  • 現在(beta):文件與 Release notes 已上線;ClaudeDevs 於 2026-10-14 宣布 public beta。
  • SDK 路徑:升級官方 Claude SDK,在應用程式註冊 OpenTelemetry TracerProvider,再改成連到你的觀測平台的 OTLP exporter。
  • API 路徑:組織需有 Admin 角色,在 Console 新增 destination(Developer 可查看)。
  • 注意:beta 期間 schema/選項可能不相容升級;Claude Code、Agent SDK、Cowork 另有各自的監控文件,這篇主線是 Claude API/Managed Agents 的 OpenTelemetry。

代理可接監控工具

這對工作的意義:背景代理持續運作,你偶爾檢查監控儀表板
AI 生成圖片

對一人公司和香港中小企來說,重點不是「又多一個儀表板」,而是:背景跑的 AI 代理,終於可以像一般後端服務一樣被看見。你不必整天盯著對話窗,只要在固定時段打開 Grafana/Sentry/Langfuse,看哪些工具失敗、哪一步特別慢、token 花在哪裡。

實務上可以這樣開始(請依官方文件操作,並先用 Metadata only):

  1. 先接 Metadata only:確認延遲、錯誤率、token 曲線正常,再決定要不要開 Full content。
  2. 把代理綁到業務流程:例如客服回覆、文件整理、定時摘要;出問題時用 span 對到是哪個工具或哪一輪 turn。
  3. 用量仍看 Usage API:OpenTelemetry 方便除錯與評估,但不保證完整用量紀錄。
  4. 注意隱私:Full content 會把提示與回應存進第三方觀測平台,請對照該平台的保存與存取政策;有法規限制時 destination 會強制只送 metadata。

若你已經在用 Claude 做自動化,這次更新最接近「把黑盒子接到你本來就信任的監控棧」——代理可以繼續在背景做事,你只要偶爾檢查摘要與告警即可。

想成為 AI 高手?即刻搵 Jacob
看更多最新文章