> ## Documentation Index
> Fetch the complete documentation index at: https://docs.coreweave.com/llms.txt
> Use this file to discover all available pages before exploring further.
# モデルをサンドボックスにデプロイする
> Registry から CoreWeave のサンドボックスにモデルをデプロイする方法を説明します。
Registry のモデルを分離された [CoreWeave サンドボックス環境](/products/sandboxes)にデプロイして、テストや反復処理に利用できます。デプロイメントのエンドポイントへの推論リクエストは、curl や Python の HTTP クライアントなどのツールで送信します。
Registry からサンドボックスへのモデルのデプロイは現在プライベートプレビュー段階であり、GPU 対応のサンドボックスが必要です。アクセスをリクエストするには、担当のアカウントチームに連絡するか、[support@coreweave.com](mailto:support@coreweave.com) までメールでお問い合わせください。
CoreWeave Sandboxes には有効期間の制限があり、期限が切れると停止します。サンドボックスの期限が切れると、CoreWeave はそのコンピュートリソースを解放し、エンドポイントは利用できなくなります。別のサンドボックスを作成するには、デプロイメントを[クローン](/ja/products/registry/deploy_models#clone-a-deployment)します。クローンすると、新しいエンドポイント URL が生成された新しいサンドボックスが作成されます。
デプロイメントは組織単位で管理され、選択したチームに関連付けられます。デプロイメントの作成、クローン、停止などの管理操作を行うには、組織内で[書き込みアクセス権を持つ Registry ロール](/ja/products/registry/configure_registry#details-about-registry-roles)が必要です。また、組織にサンドボックスおよび GPU サンドボックスへのアクセス権があり、サンドボックスのクォータに空きがあり、サンドボックスのコンピュートが十分に確保されている必要があります。
モデルをデプロイする
以下の手順に従って、モデルをサンドボックスにデプロイします。
1. **Registry** にアクセスします。
2. レジストリを選択します。
3. コレクションを選択します。
4. モデルのバージョンを選択します。
5. アクションメニュー () を選択し、**Deploy** を選択します。
6. **Version** ドロップダウンから、デプロイするモデルのバージョンを選択します。
7. **Deployment** 名フィールドに、デプロイメントの名前を入力します。
8. **Next** を選択します。
9. デプロイメントに関連付けるチームを選択します。
10. [コンピュートリソース](/ja/products/registry/deploy_models#compute-resources)を選択します。
11. **Lifetime** ドロップダウンから、サンドボックスの実行を許可する期間を選択します。
12. **Serving engine** を設定します。デフォルトのエンジンであり、現在サポートされている唯一のエンジンは `vLLM` です。
13. **Next** を選択します。
14. デプロイメントの詳細を確認し、**Deploy** を選択します。
コンピュートリソース
コンピュートリソースによって、サンドボックスに割り当てられる CPU、メモリ、GPU の各リソースが決まります。
| タイプ | 説明 |
| - | - |
| CPU (vCPU) | サンドボックスに割り当てられる仮想 CPU の数。 |
| メモリ (GiB) | サンドボックスに割り当てられるシステムメモリの量。 |
| GPU | サンドボックスに割り当てられる GPU の数。 |
GPU サンドボックスを使用するには、組織で有効化されている必要があります。GPU が有効化されるまでは、GPU を含むリクエストはエラー `CWSANDBOX_GPU_NOT_ALLOWED` で失敗し、`this organization is not entitled to create GPU sandboxes` というメッセージが返されます。
サンドボックスの状態
サンドボックスの状態は次のいずれかです。
| 状態 | 説明 |
| - | - |
| Starting | CoreWeave がサンドボックスを作成し、モデルをデプロイしています。 |
| Running | サンドボックスは実行中で、使用できます。 |
| Stopping | CoreWeave がサンドボックスを停止しています。 |
| Stopped | ユーザーがサンドボックスを停止しました。エンドポイントは使用できなくなりました。 |
| Expired | サンドボックスが有効期限に達しました。エンドポイントは使用できなくなりました。 |
| Failed | エラーが発生したため、デプロイメントを開始できませんでした。 |
デプロイメントを表示する
デプロイされたサンドボックスのステータス、有効期限、設定などの詳細を表示します。
1. **Registry** にアクセスします。
2. レジストリを選択します。
3. コレクションを選択します。
4. モデルのバージョンを選択します。
5. **Deployments** タブを選択します。
6. 次のいずれかの方法で、デプロイメントの詳細を開きます。
* デプロイされたサンドボックスの名前を選択します。
* アクションメニュー () を選択し、**View deployment details** を選択します。
デプロイメントの概要
デプロイメントの概要には、次の情報が表示されます。
* **Status**: サンドボックスの現在の[状態](/ja/products/registry/deploy_models#sandbox-states)。
* **Created by**: デプロイメントを作成したユーザー。
* **Created at**: デプロイメントの作成日時。
サンドボックスの設定
サンドボックスの設定には、次の情報が含まれます。
* **Instance name**: サンドボックスインスタンスの名前。
* **Serving engine**: モデルのサービングに使用するエンジン。
* **Team**: サンドボックスを作成したチーム。
* **Compute resources**: サンドボックスに割り当てられた CPU、メモリ、GPU のリソース。
* **Expires in**: サンドボックスの有効期限が切れるまでの残り時間。
* **Endpoint address**: デプロイされたサンドボックスへのリクエスト送信に使用するアドレス。
* **curl example**: `curl` を使用してデプロイメントのエンドポイントにリクエストを送信する例。
デプロイ済みモデルにアクセスする
サンドボックスの設定に記載されているエンドポイントアドレスを使用して、デプロイ済みモデルにリクエストを送信します。エンドポイントは、サンドボックスの有効期限が切れるか、デプロイメントを停止するまで利用できます。
サンドボックスのエンドポイントは一般公開されており、Forge の APIキーによる認証には対応していません。エンドポイントの URL を知っていれば誰でも、デプロイ済みモデルにリクエストを送信できます。アクセス制御が必要なモデルやデータには、サンドボックスのエンドポイントを使用しないでください。
エンドポイントアドレスを確認する
デプロイしたサンドボックスのエンドポイントアドレスは、デプロイメントの概要にあるサンドボックスの設定セクションで確認できます。
1. [デプロイメントの詳細](/ja/products/registry/deploy_models#view-a-deployment)を開きます。
2. **Sandbox configuration** で **Endpoint address** を確認します。
デプロイメントをテストする
チャット補完リクエストを送信して、デプロイメントが推論リクエストを処理できることを確認します。
次の Python コードをコピー＆ペーストして、デプロイしたサンドボックスをテストします。`base_url` にはデプロイメントのエンドポイントアドレスを設定してください。`httpx` をまだインストールしていない場合は、`pip install httpx` を実行してインストールしてください。
```python theme={"system"}
import httpx
base_url = "sandbox-url"
response = httpx.post(
f"{base_url}/v1/chat/completions",
headers={
"Content-Type": "application/json",
},
json={
"model": "local",
"messages": [
{
"role": "user",
"content": "Reply with OK."
},
],
"temperature": 0,
"max_tokens": 5,
},
timeout=60,
)
response.raise_for_status()
print(response.json()["choices"][0]["message"]["content"])
```
次の curl コマンドをコピー＆ペーストして、デプロイしたサンドボックスにテストリクエストを送信します。`sandbox-url` はデプロイメントのエンドポイントアドレスに置き換えてください。
```bash theme={"system"}
curl --fail-with-body \
"sandbox-url/v1/chat/completions" \
--header "Content-Type: application/json" \
--data '{
"model": "local",
"messages": [
{
"role": "user",
"content": "Reply with OK."
}
],
"temperature": 0,
"max_tokens": 5
}'
```
デプロイメントをクローンする
デプロイメントをクローンすると、独自に生成されたエンドポイント URL を持つ新しいサンドボックスが作成されます。デフォルトでは、クローンされたデプロイメントの名前は、元のデプロイメント名の末尾に `-clone` を付けたものになります。この名前は、デプロイメントを確定する前に変更できます。
デプロイメント名は、起動中または実行中のデプロイメントの間で一意である必要があります。既存のデプロイメントが停止するか期限切れになると、その名前を再利用できます。
デプロイメントをクローンするには、次の手順に従います。
1. Registry にアクセスします。
2. レジストリを選択します。
3. コレクションを選択します。
4. モデルのバージョンを選択します。
5. **Deployments** タブを選択します。
6. **action** () メニューを選択し、**Clone deployment** を選択します。
7. デプロイメントの設定を確認または更新し、デプロイメントを確定します。
デプロイメントを停止する
実行中のデプロイメントを停止します。停止したデプロイメントは再開できず、そのエンドポイントも利用できなくなります。モデルを再び提供するには、新しいデプロイメントを作成してください。
実行中のサンドボックスデプロイメントを停止するには、次の手順に従います。
1. **Registry** にアクセスします。
2. レジストリを選択します。
3. コレクションを選択します。
4. モデルのバージョンを選択します。
5. **Deployments** タブを選択します。
6. デプロイメントを選択します。
7. アクションメニュー () を選択し、**Stop deployment** を選択します。
請求と使用量
モデルをサンドボックスにデプロイすると、CoreWeave のサンドボックスのコンピュートが消費されます。また、モデルのワークフローで Weave、Inference、Training などの他の W\&B サービスを使用する場合は、プロダクトごとの使用量が発生することがあります。
組織の管理者と請求管理者は、[請求設定](/ja/products/wandb/platform/app/settings-page/billing-settings)で、プランの詳細の確認、使用量の監視、使用量アラートと支出アラートの設定、支払い方法の管理、請求書の確認を行えます。
アカウントのサンドボックスのコンピュートが不足している場合は、使用量の追加購入やプランのアップグレードが必要になることがあります。または、[support@coreweave.com](mailto:support@coreweave.com) から CoreWeave Support にお問い合わせください。