Providers - CoreWeave Docs

プロバイダーは、W&B entity 用の OpenAI 互換 API のベース URL とその認証情報を 1 組保存します。ルーティング、再ラベル付け、評価では、{provider}/{model} を通じてモデルを参照します。

プロバイダーを登録する

entity メニューを開き、Providers を選択して、次の項目を入力します。

Name: openai や openrouter など、すべてのモデル参照で使用する小文字の識別子です。
Base URL: /v1 などの必須のパス接頭辞を含む、正確な OpenAI 互換 API のルートです。クエリパラメーターや埋め込まれた認証情報は含めません。
APIキー: 保存前に暗号化され、返されることはありません。

ホストされたプロバイダーは、Cloudflare プロキシに非同期でパブリッシュされます。現在のリビジョンでデプロイメントが Applied になると、プロバイダーはルーティングされたリクエストを処理できる状態になります。

API: プロバイダーを登録する (PUT /providers/{provider})

プロバイダー名は URL の最後のセグメントです。この例では openai を登録します。

curl --request PUT \
  --url "https://distillation.training.wandb.ai/v1/providers/openai" \
  --header "Authorization: Bearer $WANDB_API_KEY" \
  --header "Wandb-Entity: your-team" \
  --header "Content-Type: application/json" \
  --data "{
    \"base_url\": \"https://api.openai.com/v1\",
    \"api_key\": \"$OPENAI_API_KEY\"
  }"

デプロイメントが applied になるまで GET /providers/openai をポーリングします。プロバイダーの作成または認証情報のローテーションを参照してください。

UI は openai プロバイダーに対して POST /responses を使用するため、再ラベル付けと評価では OpenAI の推論およびツール呼び出しの動作が維持されます。他のプロバイダーは OpenAI 互換の POST /chat/completions エンドポイントを実装する必要があります。

モデル ID を有効にする

プロバイダーのモデル一覧を展開すると、次の操作ができます。

UI の選択欄で既知のモデルを有効または無効にします。
そのプロバイダーが公開するカスタムモデル ID を追加します。
入力と出力の料金を、100 万トークンあたりの米ドル額で設定します (オプション) 。

モデルを有効にすると UI で見つけられるようになりますが、ランタイムの権限は変わりません。カタログのエントリが無効でも、既存のルーティング参照は引き続き呼び出せます。

組み込みの `wandb-inference`

すべての entity には、wandb-inference という名のシステムプロバイダーがあります。別の認証情報を保存する代わりに、呼び出し元の W&B キーを使用します。W&B でホストされているカタログモデルやファインチューニング済みのアーティファクトに使用してください。同じ名を明示的に登録すると、パススルーの動作を、保存された認証情報を使用する動作に置き換えられます。この上書き設定を削除すると、次回の使用時にシステムプロバイダーが復元されます。

プロバイダーのローテーションまたは削除

プロバイダーフォームを再度送信すると、URL またはキーがローテーションされ、新しいリビジョンがパブリッシュされます。このプロバイダーを参照しているルートと評価では、引き続き同じプロバイダー名が使用されます。プロバイダーがルーティング、再ラベル付け、または評価の設定から参照されている間は、削除できません。稼働中の project が気付かないうちに動作不能になるのを防ぐため、先にそれらの参照を削除してください。

​プロバイダーを登録する

​モデル ID を有効にする

​組み込みの wandb-inference

​プロバイダーのローテーションまたは削除

プロバイダーを登録する

モデル ID を有効にする

組み込みの `wandb-inference`

プロバイダーのローテーションまたは削除