同時実行サンドボックスのクォータ
同時実行サンドボックスのクォータは、組織内で実行中のサーバーレスサンドボックスの数を制限するもので、ユーザーとAPIキー全体で共有されます。実行中の使用量には、コードを実行中のサンドボックスだけでなく、起動中またはシャットダウン中のサンドボックスも含まれます。 同時実行クォータの適用が有効な場合、以下のデフォルト値が適用されます。組織のクォータと適用ステータスについては、サポートまたはアカウント担当チームにお問い合わせください。
サンドボックスを所有するアカウントは、サンドボックスの認証情報によって決まります。認証情報を選択して取得するを参照してください。これらのクォータは、サンドボックスへのアクセス権を持つアカウントに適用されます。クォータの引き上げが承認されると、組織の上限が引き上げられます。Forge のアカウントタイプが取得できない場合や認識されない場合は、表のフォールバック値よりも、以前に認識されたティアが優先されます。
クォータのチェックは、v1 API を介した新規のサーバーレス作成リクエストに適用されます。非推奨の v1beta2 API による使用量もカウントされますが、v1beta2 の作成リクエストはこのチェックの対象外です。クォータの処理を統合する際は、現行の v1 API を使用してください。
クォータの集計は非同期で更新されます。そのため、使用量が一時的にクォータを超えることがあり、終了直後のサンドボックスがカウントから外れるまでに時間がかかることもあります。同時実行クォータは、厳密な支出の上限でも、空き容量を保証するものでもありません。
クォータの対象となる使用量
クォータには、次の使用量が計上されます。- 準備中、配置待ち、起動中、実行中、またはシャットダウン中のサンドボックス。
- 結果が不確定な作成リクエストに対する予約 (配置開始後にタイムアウトした場合など) 。
クォータエラーを処理する
適用が有効になっている場合、クォータチェックによって組織が上限に達しているかどうかが判断されます。上限に達している場合、プラットフォームは新しい v1 サーバーレスの作成リクエストを拒否し、次の詳細を含むエラーを返します。
プラットフォームは次のエラーメッセージを返します。
concurrent sandbox quota exceeded; request an increase from support@wandb.ai or your account teamメッセージのテキストを照合するのではなく、構造化されたエラー理由に基づいて処理してください。クォータに空きキャパシティができるまで待ち、再試行のヒントに従ってバックオフ付きで再試行してください。5 秒というヒントは、5 秒後にスロットが空くことを保証するものではありません。 同時実行クォータが適用されても、すでに実行中のサンドボックスは停止されません。料金ティアの変更によってクォータが引き下げられた場合も同様です。サンドボックスのライフタイムなど、その他の制御は引き続き適用されます。
クォータの引き上げをリクエストする
同時実行クォータの引き上げをリクエストするには、ご利用のアカウントの担当チームにお問い合わせください。- CoreWeave のお客様: アカウント担当チームにお問い合わせください。
- Forge のお客様: forge-support@coreweave.com までメールでご連絡いただくか、アカウント担当チームにお問い合わせください。
レート制限
v1 サーバーレス API では、組織が作成リクエストを送信する速度と、同時に処理中の作成リクエストの数も制限されます。これらの制限は、実行中のサンドボックスの数とは別に適用されます。 スロットリングされた作成リクエストは、HTTP429 とエラー理由 CWSANDBOX_SERVERLESS_CREATE_THROTTLED を返します。どの制限に該当したかは、limit_kind メタデータで確認できます。
バックオフを適用して再試行し、応答に再試行のヒントが含まれている場合はそれに従ってください。同時実行サンドボックスのクォータを引き上げても、それだけで作成リクエストのレート制限が緩和されるわけではありません。
サンドボックスのライフタイム
サンドボックスの実行時間を制限するには、作成時にmax_lifetime_seconds パラメータ を設定します。有効期間の制限は、サーバーレス配置と CKS 配置の両方に適用されます。
有効期間を省略した場合は、適用されるポリシーでデフォルト値が指定されることがあります。ポリシーにデフォルト値が設定されていない場合、プラットフォームは 10 分を使用します。
最大ライフタイムを超える値を指定した作成リクエストは、プラットフォームによって拒否されます。有効期間が切れると、プラットフォームはサンドボックスを停止します。実行する作業に十分な有効期間を選択し、作業が終了したらサンドボックスを停止してください。