Model ルーティング - CoreWeave Docs

model 内の最初のスラッシュによって、プロバイダーへの直接参照とプロキシモデル名を区別します。

プロキシモデル名

{"model": "ticket-classifier"}

プロキシはバージョン 1 のルーティングを読み取り、正の重みを持つターゲットの中から 1 つを選択し、model を置き換えてから、そのターゲットのプロバイダーを呼び出します。

バージョンピン

{"model": "ticket-classifier@v3"}

ピンはバージョン 3 を正確に解決します。最新のバージョンにフォールフォワードすることはなく、バージョン 1 を変更することもありません。これにより、新しいバージョンをアプリケーションのロールアウト前に安全にテストできます。

直接的なプロバイダーへのCall

{"model": "openai/gpt-5.6-sol?reasoning_effort=medium"}

最初のスラッシュの前にある接頭辞で、解決された W&B entity 内のプロバイダーを選択します。残りの部分は、設定済みのプロバイダーのモデル ID です。追加のスラッシュも使用できます。直接の Call は、再ラベル付け、評価モデル、アドホックな比較、プロバイダー設定の検証に役立ちます。project のルーティングを迂回し、どの project にも紐付けられず、リクエストで wandb.project を設定しない限りトレースされません。メタデータとトレースを参照してください。

Entity resolution

bearer key のデフォルトの entity は、body に以下が含まれていない限り使用されます：

{
  "metadata": {
    "wandb.entity": "your-team"
  }
}

リクエストされた値は、呼び出し元の personal/デフォルトの entity またはその W&B チームのいずれかである必要があります。

固定式の重み付き選択

会話 ID を指定すると、ルーティングのリビジョン内で、同じ会話のすべての Call を同じターゲットに送信できます：

{
  "metadata": {
    "wandb.thread_id": "conversation-4827"
  }
}

ルーティングのリビジョンを変更すると、そのキーを意図的に別のターゲットに移動できます。

API: 固定された project バージョンを呼び出す (POST /chat/completions)

model に alias@vN を使用します。直接のプロバイダーへのCallでは、代わりに provider/model-id を使用します。

curl --request POST \
  --url "https://proxy.training.wandb.ai/v1/chat/completions" \
  --header "Authorization: Bearer $WANDB_API_KEY" \
  --header "Content-Type: application/json" \
  --data '{
    "model": "ticket-classifier@v2",
    "messages": [{"role": "user", "content": "Classify this request"}],
    "metadata": {"wandb.entity": "your-team"}
  }'

完全なスキーマについては、ルーティングされたチャット補完を作成するを参照してください。

​プロキシモデル名

​バージョンピン

​直接的なプロバイダーへのCall

​Entity resolution

​固定式の重み付き選択

プロキシモデル名

バージョンピン

直接的なプロバイダーへのCall

Entity resolution

固定式の重み付き選択