용량 옵션 비교
모든 CKS 옵션에는 설정된 샌드박스 러너와 해당 워크로드를 허용하는 정책이 필요합니다. 클러스터 용량은 사용자가 직접 관리합니다. CKS 배치를 선택해도 노드가 자동으로 프로비저닝되지는 않습니다. 각 플랜의 계약 조건은 용량 요금제 정보를 참조하세요. 이러한 CKS 용량 옵션에서 샌드박스를 실행하려면 자체 컴퓨팅 사용하기를 참조하세요.
액세스 및 워크로드 요구 사항 확인
일부 요구 사항에 따라서는 수요나 비용을 비교하기도 전에 특정 옵션이 제외될 수 있습니다.
샌드박스당 GPU 제한은 서버리스 배치와 CKS 배치 모두에서 조직 단위로 적용됩니다. 이 제한을 초과하는 요청은
CWSANDBOX_GPU_COUNT_EXCEEDED 오류와 함께 실패합니다. 제한 상향을 논의하려면 지원팀이나 계정 담당 팀에 문의하세요. 샌드박스당 GPU 수를 참조하세요.
GPU 샌드박스를 사용하려면 서버리스 배치와 CKS 배치 모두 별도의 비공개 프리뷰 액세스 권한이 필요합니다. 지원되는 클라이언트, 하드웨어, 격리 요구 사항은 GPU 샌드박스 실행을 참조하세요. CKS 런타임 설정은 샌드박스 정책 설정을 참조하세요.
사용하는 사용자 인증 정보에 따라 샌드박스를 소유하는 계정이 결정됩니다. Forge SaaS 및 CoreWeave 계정은 CoreWeave Infrastructure 및 Forge 결제를 참조하세요. Dedicated Cloud 인스턴스 키를 사용하는 경우 결제 조건과 실제 적용되는 제한을 계정 담당 팀에 확인하세요. Forge 계정 기본값만으로는 인스턴스의 할당량이 정해지지 않습니다. W&B Dedicated Cloud에서 샌드박스 사용을 참조하세요.
버스트 또는 폴백 경로를 계획하기 전에 사용자 인증 정보 선택 및 가져오기와 제한 및 할당량을 확인하세요. CKS 샌드박스는 서버리스 동시 샌드박스 할당량에 포함되지 않습니다.
안정적인 수요와 급증 수요에 대비한 계획 수립
꾸준히 사용하는 용량과 간헐적인 피크를 구분하세요. 다음 그림은 안정적인 베이스라인 위로 수요가 급증하는 모습을 보여 줍니다. 이 그림은 계획 수립 패턴을 보여 주는 것으로, 측정된 사용량이나 가격 비교, 자동 배치 동작을 나타내지는 않습니다.- 안정적인 수요: 지속적으로 사용한다면 예약 인스턴스를 고려하세요. 적합한 미사용 예약 용량이 이미 있다면 추가로 약정하기 전에 해당 용량을 활용할 수 있는지 평가하세요.
- 피크 보장이 필요한 가변 수요: 일부 용량이 유휴 상태가 되더라도 피크 용량을 확보해 두는 것이 중요하다면 Flex Reservations를 고려하세요.
- 간헐적인 급증: 노드를 추가로 관리하고 싶지 않다면 서버리스를 고려하세요. CKS 배치가 필요하고 용량을 사용하지 못하는 상황을 감수할 수 있다면 온디맨드도 선택지가 될 수 있습니다.
- 재시작 가능한 작업: 재시도와 유동적인 완료 시간을 허용할 수 있다면 스팟을 고려하세요. 수요 형태만으로는 중단되어도 안전한지 판단할 수 없습니다.
확장 및 중단 관련 제한 사항
Node Pool 자동 확장은 샌드박스 생성에 필요한 용량을 보장하지 않으며, 스필오버는 중단된 작업을 복구하지 않습니다.Node Pool 자동 확장
CKS 클러스터 자동 확장 처리기는 스케줄링할 수 없는 파드가 있을 때 노드를 추가합니다. 그런데 샌드박스 배치 단계에서는 파드를 생성하기 전에 용량 부족을 이유로 요청이 거부될 수 있습니다. 이 경우 대기 중인 파드가 없으므로 스케일 업이 트리거되지 않습니다. 샌드박스 timeout을 늘려도 트리거는 발생하지 않습니다. 이 제한은 Node Pool의 용량 요금제와 관계없이 자체 CKS 클러스터에서 실행되는 샌드박스에 적용됩니다. 샌드박스 요청이 들어오는 것만으로 CKS Node Pool이 0에서 확장될 것으로 기대하지 마세요. 수요가 발생하기 전에 용량을 미리 프로비저닝하거나, 준비 완료 상태의 용량을 충분히 유지하거나, 일시적인 수요 급증에는 서버리스를 사용하세요. 용량 예약은 예약 자체만 보장할 뿐, 노드가 샌드박스 요청을 받을 준비를 이미 마쳤음을 보장하지는 않습니다.스팟 중단
스팟 용량이 회수되면 실행 중인 샌드박스가 중단될 수 있습니다. 스팟은 애플리케이션이 안전하게 재시도할 수 있는 작업에 사용하세요. 복구에 필요한 결과나 체크포인트는 중단될 수 있는 샌드박스 외부에 보관하세요. 노드 종료 순서는 인스턴스 선점을 참조하세요. 스팟 Node Pool은 용량을 다시 사용할 수 있게 되면 노드를 보충할 수 있습니다. 하지만 노드를 교체해도 실행 중이던 샌드박스의 상태는 복구되지 않습니다.배치 모드 간 스필오버
Python의 자동 스필오버는 재시도 대상에 해당하는 배치 실패가 발생하면 다른 배치 모드에서 샌드박스 생성을 한 번 재시도합니다. 실행 중인 샌드박스를 마이그레이션하거나 스팟 회수로 중단된 작업을 복구하지는 않습니다. 스필오버를 사용하려면 서버리스 액세스 권한이 있고 CKS 러너가 설정된 조직의 CoreWeave API 액세스 토큰이 필요합니다. 각 모드에는 해당 모드의 리소스 정책과 제한이 적용됩니다. TypeScript 클라이언트는 두 배치 모드를 모두 지원하지만 자동 스필오버는 제공하지 않습니다. 템플릿으로 샌드박스를 생성하는 경우와run_from_file()을 사용하는 경우에는 스필오버 없는 엄격한 배치가 필요합니다.
설정, 지원되는 방향, 러너 제한 사항은 모드 간 대체 배치로 재시도를 참조하세요.