プロキシエラー - CoreWeave Docs

プロキシが生成するエラーは、次の形式になります。

{
  "error": {
    "message": "No task 'ticket-classifier' in entity 'personal-user'. Did you mean to pass metadata[\"wandb.entity\"]?",
    "type": "proxy_error"
  }
}

すべてのレスポンスには x-proxy-request-id が含まれます。問題を報告する際は、この値を併せてお知らせください。

よくある失敗

ステータス	主な原因	action
400	モデルの欠落、無効なメタデータ、安全でないトレースの送信先、不正な形式の JSON、無効または競合する `wandb-cache-mode` 値、またはストリーミング呼び出しに対するキャッシュリクエスト	リクエストボディを修正するか、キャッシュヘッダーを削除します
401	W&B ベアラーキーの欠落または無効なキー	有効な W&B APIキーを使用します
403	キーがリクエストされた entity にアクセスできない	`wandb.entity` を変更するか、チームにアクセス権を付与します
404	不明な project、バージョン、プロバイダー、またはサポートされていないパス	entity、プロキシモデル名、バージョン、プロバイダーのデプロイメントを確認します
502	プロバイダーに到達できなかった、または応答ストリームが失敗した	プロバイダーの可用性と認証情報を確認します
プロバイダーのステータス	選択したプロバイダーがエラーを返した	プロバイダーの応答を確認します。プロキシは上流のステータスとボディを保持します

エンティティに関する最もよくある間違い

個人の W&B キーは、デフォルトで個人エンティティを参照します。そのため、チームのプロジェクトでは次の設定が必要です。

{"metadata": {"wandb.entity": "team-name"}}

モデル ID のエラーはプロキシの 404 ではありません

プロキシが検証するのはプロバイダー名であり、上流のモデル ID をすべて検証するわけではありません。プロバイダーが存在していてもモデルが存在しない場合は、選択されたプロバイダー自身がエラーを返します。この違いを把握しておくと、ルーティング設定の問題とプロバイダーのカタログのドリフトを切り分けやすくなります。

トレースの失敗

トレースの書き込みは非同期で行われるため、プロバイダーからの成功応答がクライアント側の失敗になることはありません。オペレーターは同じプロキシのリクエスト ID で構造化された書き込み失敗イベントを監視します。決定論的なトレース入力の問題は、可能な限りプロバイダーのディスパッチ前に拒否されます。

API: 失敗の診断

エージェントにリクエスト URL、マスクしたリクエストボディ、HTTP ステータス、完全な応答ボディ、および x-proxy-request-id を提供します。ベアラーキーやプロバイダーの認証情報を共有しないでください。エージェントは次の順序で確認する必要があります：

metadata["wandb.entity"] 内の選択された entity；
model がプロキシモデル名、固定された project のバージョン、または登録されたプロバイダーの reference であるかどうか；
プロバイダーとルーティングのデプロイメントが適用されているかどうか；
応答ボディがプロキシから来たのか、上流のプロバイダーから来たのか。

機械可読のエラースキーマは推論プロキシ OpenAPI 仕様にあります。

​よくある失敗

​エンティティに関する最もよくある間違い

​モデル ID のエラーはプロキシの 404 ではありません

​トレースの失敗

よくある失敗

エンティティに関する最もよくある間違い

モデル ID のエラーはプロキシの 404 ではありません

トレースの失敗