OpenAI-Project の値を使ってアプリケーションをプロキシに接続する方法、そしてトレーニングデータとして使用できるトレースがプロキシによって記録されていることを確認する方法を説明します。
project を作成する
project を作成するには、次の手順に従います。- Projects で Create or import a project を選択します。
- 次のフィールドを設定します。
- W&B project: 選択した entity に Weights & Biases プロジェクトを新規作成する場合は Create new を、既存の Weights & Biases プロジェクトに接続する場合は Import existing を選択します。インポートしても既存の project のデータは変更されません。1 つの Weights & Biases プロジェクトに対応付けられる Model Distillation の project は、entity ごとに 1 つだけです。
- Project alias: Studio の URL や Management API のパスで project を識別するための名前です。UI には、Weights & Biases のプロジェクト名をもとにした名前が候補として表示されます。小文字の英字、数字、ハイフンを使用し、64 文字以内で指定してください。project エイリアスは Weights & Biases のプロジェクト名と異なっていてもかまいません。
- Initial model: トレースを収集して代替モデルをトレーニングしている間、バージョン 1 として応答するモデルです。
- Create project を選択します。
API: project を作成する (PUT /projects/{alias})
API: project を作成する (PUT /projects/{alias})
project エイリアスは スキーマの詳細については、Model Distillation の project を作成する を参照してください。
alias パスセグメントで指定します。project には Weights & Biases のプロジェクト名を、project_mode には create または import を設定します。ルーティング先を少なくとも 1 つ指定してください。targets が未指定または空の場合、作成は失敗します。アプリケーションを接続する
project を作成したら、アプリケーションの接続先をプロキシに設定します。プロキシはアプリケーションのトラフィックを project 経由でルーティングし、トレースとして記録します。次のクライアントとリクエストの設定を使用してください。your-team/ticket-classifier は、Studio の project ヘッダーと project の設定ページに表示される OpenAI-Project の値に置き換えてください。この値は entity と Weights & Biases のプロジェクト名を組み合わせたもので、project のエイリアスではありません。
router を選択されたターゲットのプロバイダーモデルに置き換えたうえで、そのターゲットに保存されているパラメータのオーバーライドを適用します。forge.project_version を含まないリクエストには、バージョン 1 が使用されます。別のバージョンに固定するには、metadata に "forge.project_version": "2" を追加します。
有用なトレースを確認する
大規模なデータセットを収集する前に、次の点を確認してください。- 成功した Call が project のリクエストチャートに表示されている。
- トラフィックの配分がルーティングの重みと一致している。
- 安定した
gen_ai.conversation.idによって、W&B Weave の Agents ビューで各会話がグループ化されている。 - ツール定義、応答形式、マルチターンのメッセージが、記録されたリクエストに含まれている。
- 失敗したプロバイダーへの Call は、デバッグ用に表示されるものの、トレーニングデータからは除外されている。