開始する前に、プロバイダーの API ベース URL、APIキー、およびそのエンドポイントで公開されているモデル ID (1 つ以上) を用意してください。組み込みの
wandb-inference プロバイダーのみを使用する場合は、プロバイダーの登録は不要です。1
プロバイダー設定を開く
UI で entity メニューを開き、Providers を選択します。プロバイダーの設定は、選択中の W&B entity に適用されます。
2
プロバイダーを登録する
Add provider で、プロバイダー名 (小文字) 、OpenAI 互換の API ベース URL、APIキーを入力し、Add provider を選択します。APIキーは UI によって暗号化されてから保存されます。また、ホスト型プロバイダーの変更は非同期でパブリッシュされます。
3
プロバイダーが利用可能になるまで待つ
プロバイダーを展開し、現在のリビジョンでデプロイメントステータスが Applied になっていることを確認します。
4
モデルを有効にする
プロバイダーのモデル一覧で、既知のモデルを有効にするか、エンドポイントで公開されているモデル ID を正確に入力して追加します。UI でコストを見積もるには、入力と出力の料金を追加します。これで、モデルが UI のモデルセレクターに
{provider}/{model} として表示されます。プロバイダーの動作と API オプション
認証情報のローテーション、モデルの管理、プロバイダーを安全に削除する方法について説明します。