ルーティングされたチャット補完を作成する
OpenAI-Project: entity/project を送信して Model Distillation の project を選択し、metadata["forge.project_version"] でバージョンを選択します(v1 の場合は省略)。設定済みのルーティングを使用するには、model を省略するか、空欄にするか、router を指定します。project への紐付け、会話のトレースサンプリング、オプトインのキャッシュ処理を維持しながらモデルを上書きするには、model を provider/model に設定します。上書きリクエストでは、重み付きターゲットのパラメーターのデフォルト値やオーバーライドではなく、登録済みプロバイダーと呼び出し元のパラメーターを使用します。無効なヘッダーはフォールバックせずに拒否されます。
承認
選択したタスクとプロバイダーを所有する個人/デフォルトの entity またはチームに属する W&B APIキー。
ヘッダー
ルーティング設定を所有する Weights & Biases の entity/project。呼び出し元には、その entity へのアクセス権が必要です。存在しない project を指定すると 404 が返されます。検証済みの project は、帰属先を特定するために Serverless Inference に転送されます。
"my-team/my-project"
project の非ストリーミングリクエストで、完全一致する応答のキャッシュ処理を有効にします。キャッシュのアイデンティティには、project のバージョン、ルーティングのリビジョン、実際に使用される上流リクエストのボディ、転送されるパス/クエリパラメーターが含まれます。モデルのオーバーライドは、さらにプロバイダー設定、モデル、パススルーされるユーザーのアイデンティティごとに分離されます。readWrite はキャッシュの読み取りと書き込みを行い、readOnly は書き込みを行わずに読み取り、writeOnly は読み取りを行わずに書き込みます。成功した応答のうち、8 MiB 以下のものだけが保存されます。無効な値を指定すると、HTTP 400 が返されます。ストリーミングリクエストでは、応答のキャッシュ処理はサポートされません。
readWrite, readOnly, writeOnly ボディ
1OpenAI-Project を使用する場合、設定済みのルーティングを使用するには、この値を省略するか、空欄にするか、router を指定します。project 内のモデルを上書きするには、{provider}/{model-id} を使用します。
1 <= x <= 90071992547409911 <= x <= 9007199254740991