快速开始:2 分钟看到日志
你们的应用发出的每一次模型调用和工具调用,连同成本、延迟和错误,都出现在项目的日志里。改一个地址、换一个密钥,不改业务代码。
开发中
下面的 AI Gateway 和 SDK 这两种接法正在开发,暂时不能在平台上选用;OpenTelemetry 现在就能用。已经用网关或 SDK 接好的项目照常可用,下面的说明照旧适用。
1. 建一个能上传的项目令牌
在项目里打开自动化 →「API 令牌」,填名称,比如 production,勾上**「允许上传日志与实验」,点「新建令牌」**,复制 pj_… 令牌(只显示这一次)。下面三种方式都用它当密钥。
2. 把调用发过来
选一种。项目的目标页上每种都有填好地址和项目的写法。
AI Gateway(OpenAI 或 Anthropic SDK)
把 SDK 的 base URL 指向平台,API key 换成项目令牌:
# OpenAI 的 SDK(chat completions、responses、embeddings)
OPENAI_BASE_URL=https://<平台地址>/gw/openai/v1
OPENAI_API_KEY=pj_你的令牌
# Anthropic 的 SDK(messages)
ANTHROPIC_BASE_URL=https://<平台地址>/gw/anthropic
ANTHROPIC_API_KEY=pj_你的令牌- 用平台的模型:别的都不用填。调用由平台的一个模型回答,按用量计费,标价加 30%(
GET /gw/openai/v1/models列出可用的模型)。 - 用你们自己的模型密钥:加请求头
x-provider-key: <你们的 OpenAI、Anthropic 或 Google 密钥>。调用发到那家服务商,费用由服务商直接收,平台对这次调用不收费。密钥不存、不记日志。
const openai = new OpenAI({
baseURL: 'https://<平台地址>/gw/openai/v1',
apiKey: process.env.PREWORLD_API_KEY, // pj_…
defaultHeaders: { 'x-provider-key': process.env.OPENAI_API_KEY!, 'x-preworld-environment': 'prod' },
});每次调用记成一条追踪、一个跨度:模型、token、成本、请求和回复。x-preworld-environment 给它标上环境标签 dev、staging、prod 或 ci。
OpenTelemetry
已经用 OpenTelemetry 埋点了(OpenLLMetry、OpenInference、Vercel AI SDK,或 GenAI 语义约定)?把 OTLP 导出器指向平台:
OTEL_EXPORTER_OTLP_ENDPOINT=https://<平台地址>/otel
OTEL_EXPORTER_OTLP_PROTOCOL=http/protobuf
OTEL_EXPORTER_OTLP_HEADERS=Authorization=Bearer%20pj_你的令牌
OTEL_RESOURCE_ATTRIBUTES=deployment.environment.name=prod导出器发到 /otel/v1/traces(OTLP over HTTP,protobuf 或 JSON)。跨度保留原来的树:Agent 的一次运行下面挂着它的模型调用、工具调用和检索。
SDK
import { traced, wrapOpenAI } from '@preworld/sdk';
const openai = wrapOpenAI(new OpenAI());
const handle = traced(async (message: string) => { /* 你们的 Agent */ }, { name: 'support-agent', kind: 'agent' });先设好 PREWORLD_API_KEY、PREWORLD_PROJECT、PREWORLD_BASE_URL 和 PREWORLD_ENVIRONMENT(见 SDK 快速开始)。Python 用 wrap_openai、wrap_anthropic、@traced。
3. 打开日志
调用一次,然后打开日志。几秒内追踪就会出现:时间、输入、输出、状态、延迟、成本、模型。点一条看它的跨度;点一个分面(某个模型、某个工具、「出错」)就筛出来。接着看日志指南。
下一步
- 在线评分与告警:抽样给这些追踪打分,分数、错误或成本出问题时通知你们。
- 数据集:选中追踪点「加入数据集」,下一个版本就拿真实发生过的事来测。
- OpenTelemetry 与 AI Gateway 参考:每个请求头、上限和错误。