> ## Documentation Index
> Fetch the complete documentation index at: https://docs.coreweave.com/llms.txt
> Use this file to discover all available pages before exploring further.
# 샌드박스에 모델 배포하기
> 레지스트리의 모델을 CoreWeave 샌드박스에 배포하는 방법을 알아보세요.
레지스트리의 모델을 격리된 [CoreWeave 샌드박스 환경](/products/sandboxes)에 배포해 테스트하고 반복 개선할 수 있습니다. curl이나 Python HTTP 클라이언트 같은 도구로 배포 엔드포인트에 추론 요청을 보내세요.
레지스트리에서 샌드박스로 모델을 배포하는 기능은 현재 비공개 프리뷰 단계이며, GPU가 활성화된 샌드박스가 필요합니다. 액세스를 요청하려면 담당 어카운트 팀에 문의하거나 [support@coreweave.com](mailto:support@coreweave.com)으로 이메일을 보내세요.
CoreWeave Sandboxes는 수명이 제한되어 있어 만료되면 중지됩니다. 샌드박스가 만료되면 CoreWeave가 해당 컴퓨팅 리소스를 해제하며, 엔드포인트도 더 이상 사용할 수 없습니다. 샌드박스를 다시 만들려면 배포를 [복제](/ko/products/registry/deploy_models#clone-a-deployment)하세요. 복제하면 엔드포인트 URL이 새로 생성된 새 샌드박스가 만들어집니다.
배포는 조직 범위에 속하며, 선택한 팀과 연결됩니다. 배포를 생성, 복제, 중지하거나 관리하려면 조직 내에서 [쓰기 액세스 권한이 있는 레지스트리 역할](/ko/products/registry/configure_registry#details-about-registry-roles)이 있어야 합니다. 또한 조직에 샌드박스 및 GPU 샌드박스에 대한 액세스 권한, 남은 샌드박스 할당량, 충분한 샌드박스 컴퓨팅 용량이 있어야 합니다.
모델 배포
다음 단계에 따라 모델을 샌드박스에 배포하세요.
1. **Registry**로 이동하세요.
2. 레지스트리를 선택하세요.
3. 컬렉션을 선택하세요.
4. 모델 버전을 선택하세요.
5. 작업 메뉴()를 선택한 다음 **Deploy**를 선택하세요.
6. **Version** 드롭다운에서 배포할 모델 버전을 선택하세요.
7. **Deployment** 이름 필드에 배포 이름을 입력하세요.
8. **Next**를 선택하세요.
9. 배포에 연결할 팀을 선택하세요.
10. [컴퓨팅 리소스](/ko/products/registry/deploy_models#compute-resources)를 선택하세요.
11. **Lifetime** 드롭다운에서 샌드박스의 최대 실행 시간을 선택하세요.
12. **Serving engine**을 설정하세요. 기본값이자 현재 지원되는 유일한 엔진은 `vLLM`입니다.
13. **Next**를 선택하세요.
14. 배포 세부 정보를 검토한 다음 **Deploy**를 선택하세요.
컴퓨팅 리소스
컴퓨팅 리소스에 따라 샌드박스에 할당되는 CPU, 메모리, GPU 리소스가 정해집니다.
| 유형 | 설명 |
| - | - |
| CPU (vCPU) | 샌드박스에 할당되는 가상 CPU 수입니다. |
| 메모리 (GiB) | 샌드박스에 할당되는 시스템 메모리 양입니다. |
| GPU | 샌드박스에 할당되는 GPU 수입니다. |
GPU 샌드박스를 사용하려면 조직에서 해당 기능이 활성화되어 있어야 합니다. GPU가 활성화되기 전에는 GPU를 포함한 요청이 `CWSANDBOX_GPU_NOT_ALLOWED` 오류 및 `this organization is not entitled to create GPU sandboxes` 메시지와 함께 실패합니다.
샌드박스 상태
샌드박스의 상태는 다음 중 하나입니다.
| 상태 | 설명 |
| - | - |
| Starting | CoreWeave에서 샌드박스를 생성하고 모델을 배포하는 중입니다. |
| Running | 샌드박스가 실행 중이며 사용할 수 있습니다. |
| Stopping | CoreWeave에서 샌드박스를 중단하는 중입니다. |
| Stopped | 사용자가 샌드박스를 중단했습니다. 해당 엔드포인트는 더 이상 사용할 수 없습니다. |
| Expired | 샌드박스가 만료 시간에 도달했습니다. 해당 엔드포인트는 더 이상 사용할 수 없습니다. |
| Failed | 오류가 발생하여 배포를 시작하지 못했습니다. |
배포 보기
배포된 샌드박스의 상태, 만료 시간, 설정 및 기타 세부 정보를 확인하세요.
1. **Registry**로 이동하세요.
2. 레지스트리를 선택하세요.
3. 컬렉션을 선택하세요.
4. 모델 버전을 선택하세요.
5. **Deployments** 탭을 선택하세요.
6. 다음 중 한 가지 방법으로 배포 세부 정보를 여세요.
* 배포된 샌드박스의 이름을 선택하세요.
* 작업 메뉴()를 선택한 다음 **View deployment details**를 선택하세요.
배포 개요
배포 개요에는 다음 정보가 포함됩니다.
* **Status**: 샌드박스의 현재 [상태](/ko/products/registry/deploy_models#sandbox-states)입니다.
* **Created by**: 배포를 생성한 사용자입니다.
* **Created at**: 배포를 생성한 시각입니다.
샌드박스 설정
샌드박스 설정에는 다음 정보가 포함됩니다.
* **Instance name**: 샌드박스 인스턴스의 이름입니다.
* **Serving engine**: 모델을 서빙하는 엔진입니다.
* **Team**: 샌드박스를 생성한 팀입니다.
* **Compute resources**: 샌드박스에 할당된 CPU, 메모리, GPU 리소스입니다.
* **Expires in**: 샌드박스가 만료되기까지 남은 시간입니다.
* **Endpoint address**: 배포된 샌드박스에 요청을 보낼 때 사용하는 주소입니다.
* **curl example**: `curl`로 배포 엔드포인트에 요청을 보내는 예시입니다.
배포된 모델에 액세스하기
샌드박스 설정의 엔드포인트 주소를 사용하여 배포된 모델에 요청을 보내세요. 엔드포인트는 샌드박스가 만료되거나 배포를 중지할 때까지 사용할 수 있습니다.
샌드박스 엔드포인트는 누구나 액세스할 수 있도록 공개되어 있으며 Forge API 키 인증을 지원하지 않습니다. 엔드포인트 URL을 아는 사람은 누구나 배포된 모델에 요청을 보낼 수 있습니다. 액세스 제어가 필요한 모델이나 데이터에는 샌드박스 엔드포인트를 사용하지 마세요.
엔드포인트 주소 확인
배포된 샌드박스의 엔드포인트 주소는 배포 개요의 샌드박스 설정 섹션에서 확인할 수 있습니다.
1. [배포 세부 정보](/ko/products/registry/deploy_models#view-a-deployment)를 여세요.
2. **Sandbox configuration**에서 **Endpoint address**를 확인하세요.
배포 테스트
Chat Completion 요청을 보내 배포가 추론 요청을 서빙할 수 있는지 확인하세요.
다음 Python 코드를 복사해 붙여 넣어 배포된 샌드박스를 테스트하세요. `base_url`을 배포의 엔드포인트 주소로 설정하고, `httpx`가 아직 설치되어 있지 않다면 `pip install httpx`를 실행해 설치하세요.
```python theme={"system"}
import httpx
base_url = "sandbox-url"
response = httpx.post(
f"{base_url}/v1/chat/completions",
headers={
"Content-Type": "application/json",
},
json={
"model": "local",
"messages": [
{
"role": "user",
"content": "Reply with OK."
},
],
"temperature": 0,
"max_tokens": 5,
},
timeout=60,
)
response.raise_for_status()
print(response.json()["choices"][0]["message"]["content"])
```
다음 curl 명령을 복사해 붙여 넣어 배포된 샌드박스에 테스트 요청을 보내세요. `sandbox-url`은 배포의 엔드포인트 주소로 바꾸세요.
```bash theme={"system"}
curl --fail-with-body \
"sandbox-url/v1/chat/completions" \
--header "Content-Type: application/json" \
--data '{
"model": "local",
"messages": [
{
"role": "user",
"content": "Reply with OK."
}
],
"temperature": 0,
"max_tokens": 5
}'
```
배포 복제
배포를 복제하면 고유한 엔드포인트 URL이 생성된 새 샌드박스가 만들어집니다. 기본적으로 복제된 배포의 이름은 원래 배포 이름 뒤에 `-clone`이 붙은 형태입니다. 배포를 확정하기 전에 이 이름을 변경할 수 있습니다.
배포 이름은 시작 중이거나 실행 중인 배포 간에 고유해야 합니다. 기존 배포가 중지되거나 만료되면 해당 이름을 다시 사용할 수 있습니다.
배포를 복제하려면 다음 단계를 따르세요.
1. 레지스트리로 이동하세요.
2. 레지스트리를 선택하세요.
3. 컬렉션을 선택하세요.
4. 모델 버전을 선택하세요.
5. **Deployments** 탭을 선택하세요.
6. **action** () 메뉴를 선택한 다음 **Clone deployment**를 선택하세요.
7. 배포 설정을 검토하거나 수정한 다음 배포를 확정하세요.
배포 중지
실행 중인 배포를 중지합니다. 중지된 배포는 다시 시작할 수 없으며, 해당 엔드포인트도 더 이상 사용할 수 없습니다. 모델을 다시 서빙하려면 새 배포를 생성하세요.
실행 중인 샌드박스 배포를 중지하려면 다음 단계를 따르세요.
1. **Registry**로 이동하세요.
2. 레지스트리를 선택하세요.
3. 컬렉션을 선택하세요.
4. 모델 버전을 선택하세요.
5. **Deployments** 탭을 선택하세요.
6. 배포를 선택하세요.
7. 작업 메뉴()를 선택한 다음 **Stop deployment**를 선택하세요.
청구 및 사용량
모델을 샌드박스에 배포하면 CoreWeave 샌드박스 컴퓨팅이 소비됩니다. 또한 모델 워크플로에서 Weave, Inference, Training 등 다른 W\&B 서비스를 사용하면 제품별 사용량이 발생할 수 있습니다.
조직 관리자와 청구 관리자는 [청구 설정](/ko/products/wandb/platform/app/settings-page/billing-settings)에서 플랜 세부 정보 검토, 사용량 모니터링, 사용량 및 비용 알림 설정, 결제 수단 관리, 청구서 조회를 할 수 있습니다.
계정의 샌드박스 컴퓨팅이 부족하면 사용량을 추가로 구매하거나 플랜을 업그레이드해야 할 수 있으며, [support@coreweave.com](mailto:support@coreweave.com)으로 CoreWeave 지원팀에 문의할 수도 있습니다.