project とバージョン

project とは、アプリケーションがリクエストする安定した動作のことです。project は、W&B プロジェクト、データセット、ファインチューン、評価、Analytics、および 1 つ以上のルーティングバージョンを所有します。このページでは、project、プロキシモデル名、バージョンの関係について説明します。これらの関係を理解することで、アプリケーションがすでに送信しているトラフィックを中断せずに、project のルーティングを変更できます。

Management API では、project をタスクと呼びます。API パスは /tasks/{alias} で始まります。alias はプロキシモデル名です。詳しくは、API の規則を参照してください。

プロキシモデル名

プロキシモデル名は、ticket-classifier のように、アプリケーションが使用するモデル文字列です。W&B entity 内で一意であり、モデルが変わっても変わることはありません。また、その project のトレースを保存する W&B プロジェクトの名前と異なっていてもかまいません。バージョンを指定しないプロキシモデル名は、常にバージョン 1 を指します。

{"model": "ticket-classifier"}

より新しいバージョンを明示的に固定します。

{"model": "ticket-classifier@v2"}

バージョンを作成するタイミング

アプリケーションの現在のトラフィックに影響を与えずに、別のモデル構成やプロバイダーのパラメーターを試したい場合は、新しいバージョンを作成します。各バージョンは、それぞれ独立したルーティング設定を持ちます。

バージョンを作成しても、トラフィックは切り替わりません。呼び出し元が model を name@vN に変更して初めて、そのバージョンにリクエストが届きます。

バージョンでコピーされないもの

バージョンは project のコピーではありません。データセット、ファインチューン、評価は引き続き project レベルのリソースです。データセットのクエリでは、どの project バージョンのトラフィックを使用するかを選択できます。

推奨される手順

本番トラフィックを流す前に新しいバージョンを検証するには、次の手順に従います。

本番環境では、バージョン指定なしのプロキシモデル名とバージョン 1 を引き続き使用します。
検討中のルーティングを使用して新しいバージョンを作成します。
社内トラフィックまたはカナリアトラフィックを name@vN に送信します。
Analytics と評価を確認します。
新しいバージョンの準備が完了してから、アプリケーションに設定されたモデルを変更します。

これで、アプリケーションのトラフィックに新しいバージョンのルーティングが適用されます。

API: project バージョンを作成する (POST /tasks/{alias}/versions)

このリクエストは、独自のルーティングを持つ次のバージョンを作成します。応答には、割り当てられたバージョン番号が含まれます。

curl --request POST \
  --url "https://distillation.training.wandb.ai/v1/tasks/ticket-classifier/versions" \
  --header "Authorization: Bearer $WANDB_API_KEY" \
  --header "Wandb-Entity: your-team" \
  --header "Content-Type: application/json" \
  --data '{
    "targets": [
      {"model_ref": "wandb-inference/your-fine-tuned-model", "weight": 1}
    ]
  }'

この操作の詳細については、タスクバージョンを作成するを参照してください。

​プロキシモデル名

​バージョンを作成するタイミング

​バージョンでコピーされないもの

​推奨される手順

プロキシモデル名

バージョンを作成するタイミング

バージョンでコピーされないもの

推奨される手順