Skip to content

New Relic 是全栈可观测性平台,支持监控应用、基础设施和数字体验。通过 OpenRouter Broadcast,每次 LLM 请求的 trace 通过 OTLP 协议发送到 New Relic,与现有应用监控数据关联。配置只需 New Relic Ingest License Key(在 API Keys 页面创建)和区域(US 或 EU)。自定义元数据通过 trace.metadata.* 命名空间存储为 span attributes,可使用 NRQL 查询、创建告警和构建仪表盘。

New Relic 是全栈可观测性平台,覆盖应用性能监控(APM)、基础设施监控和数字体验监控。通过 OpenRouter Broadcast,可将 LLM trace 与现有 New Relic 监控数据统一管理。

配置步骤

第一步:获取 New Relic License Key

  1. 登录 New Relic 账号
  2. 进入账号 API Keys 页面
  3. 创建一个 Ingest - License 类型的 Key 并复制

第二步:在 OpenRouter 开启 Broadcast

前往 Settings > Observability,打开 Enable Broadcast 开关。

第三步:配置 New Relic

点击 New Relic 旁边的编辑图标,填写:

字段填写内容
License KeyNew Relic Ingest License Key
Region账号所在区域:us(美国)或 eu(欧盟)

第四步:测试并保存

点击 Test Connection 验证配置,测试通过后自动保存。

第五步:查看 LLM Trace

通过 OpenRouter 发送 API 请求,在 New Relic 的分布式追踪视图中查看 trace 数据。

元数据映射

New Relic 通过 OTLP 协议接收 trace,自定义元数据存储在 trace.metadata.* 命名空间:

New Relic 映射说明
trace_idTrace ID将多个请求归入同一 trace
trace_nameSpan Name根 span 的自定义名称
span_nameSpan Name中间 span 的名称
generation_nameSpan NameLLM 生成 span 的名称
parent_span_idParent Span ID链接到已有 span

其他映射:

  • useruser.id(span attributes)
  • session_idsession.id(span attributes)
  • trace 中的自定义键 → trace.metadata.* 命名空间
  • GenAI 语义约定(gen_ai.*)用于模型、token 和费用数据

示例

json
{
  "model": "openai/gpt-4o",
  "messages": [{ "role": "user", "content": "Summarize this report..." }],
  "user": "user_12345",
  "session_id": "session_abc",
  "trace": {
    "trace_id": "workflow_789",
    "trace_name": "Report Processing",
    "generation_name": "Summarize Report",
    "environment": "production",
    "service": "report-api"
  }
}

在 New Relic 中查询

在 New Relic 分布式追踪视图中:

  • trace.metadata.* 属性使用 NRQL 查询过滤
  • 在 span attributes 面板查看自定义元数据
  • 基于元数据字段创建告警策略和仪表盘

NRQL 示例:

sql
SELECT * FROM Span 
WHERE service.name = 'openrouter'
AND trace.metadata.environment = 'production'
SINCE 1 hour ago

Privacy Mode

当为此目的地开启 Privacy Mode 时,prompt 和 completion 内容会从 trace 中排除。其他 trace 数据(token 用量、费用、时间、模型信息)仍正常发送。

常见问题

Q: 如何区分 New Relic 的 US 和 EU 区域?

A: 你的 New Relic 账号区域取决于注册时选择的数据中心。如果你的 New Relic URL 是 one.nr-data.net 或账号在 US 注册,选 us;如果是 one.eu.nr-data.net 或在欧盟注册,选 eu。选错区域会导致 trace 数据无法写入。

Q: New Relic 支持基于 LLM 指标的告警吗?

A: 可以。在 New Relic 中基于 Span 数据创建 NRQL 告警条件,例如 LLM 请求错误率超过阈值、token 消耗异常增长等。结合 trace.metadata.* 中的自定义元数据(如 serviceenvironment),可以设置细粒度的告警规则。

Q: OpenRouter 使用哪个 OTLP Endpoint 向 New Relic 发送数据?

A: US 区域:https://otlp.nr-data.net:4318;EU 区域:https://otlp.eu01.nr-data.net:4318。配置中只需填写 License Key 和 Region,OpenRouter 会自动选择对应的 endpoint。