Management API のパスは
/projects/{alias} で始まります。alias は project のエイリアスです。詳しくは、API の規則を参照してください。project の選択
アプリケーションはOpenAI-Project: <entity>/<project> ヘッダーで project を選択します。<project> には、その project のトレースを保存する Weights & Biases プロジェクト の名前を指定します。OpenAI SDK は、project クライアントオプションまたは OPENAI_PROJECT_ID 環境変数の値をもとにこのヘッダーを送信します。コピーすべき値は、Studio の project ヘッダーと project の設定ページで確認できます。
model はモデルの選択のみに使用されます。model が "router"、空の値、または省略されている場合は、バージョンの重み付きルーティングが使用されます。provider/model 形式の値を指定すると、project 内のモデルを上書きします。詳細については、モデルルーティングを参照してください。
project エイリアス (ticket-classifier など) は、Studio の URL や Management API のパスで project を識別するためのものです。エイリアスは Weights & Biases の entity 内で一意であり、project の作成後に変更することはできません。また、Weights & Biases プロジェクト名とは異なる場合があるため、エイリアスから値を組み立てるのではなく、Studio から OpenAI-Project の値をコピーしてください。
バージョンを指定しないリクエストは、常にバージョン 1 を対象とします。バージョン 1 は固定のデフォルトであり、最新バージョンを指すことはありません。それ以降のバージョンを使用するには、forge.project_version メタデータで明示的に固定してください。
404 が返されます。
バージョンを作成するタイミング
アプリケーションの現在のトラフィックに影響を与えずに、別のモデル構成やプロバイダーのパラメーターを試したい場合は、新しいバージョンを作成します。各バージョンは、それぞれ独立したルーティング設定を持ちます。バージョンを作成しても、トラフィックは切り替わりません。呼び出し元が
forge.project_version で新しいバージョン番号を送信して初めて、そのバージョンにリクエストが届きます。バージョンでコピーされないもの
バージョンは project のコピーではありません。データセット、ファインチューン、評価は引き続き project レベルのリソースです。データセットのクエリでは、どの project バージョンのトラフィックを使用するかを選択できます。推奨される手順
本番トラフィックを流す前に新しいバージョンを検証するには、次の手順に従います。forge.project_versionを省略して、本番環境ではバージョン 1 を引き続き使用します。- 検討中のルーティングを使用して新しいバージョンを作成します。
forge.project_versionを新しいバージョンに設定して、社内トラフィックまたはカナリアトラフィックを送信します。- Analytics と評価を確認します。
- 新しいバージョンの準備が完了してから、アプリケーションで
forge.project_versionを設定します。
API: project バージョンを作成する (POST /projects/{alias}/versions)
API: project バージョンを作成する (POST /projects/{alias}/versions)
このリクエストは、独自のルーティングを持つ次のバージョンを作成します。応答には、割り当てられたバージョン番号が含まれます。この操作の詳細については、project バージョンを作成するを参照してください。