웜 풀 구현하기

​

풀의 작동 방식

​

레시피 실행

1. 레시피 저장소를 다운로드하거나 복제한 다음 recipes/warm-pool을 여세요. 의존성을 설치하고 환경 파일을 생성하세요.
   uv sync --frozen
   cp .env.example .env
   
2. .env 파일과 demo.py 상단에서 사용자 인증 정보를 설정하세요.
   • Forge API 키
   • CoreWeave API 액세스 토큰

   .env에 Forge API 키를 추가하세요.

   FORGE_API_KEY="[FORGE-API-KEY]"
   

   demo.py에 다음 import 문을 추가하고 기존 AUTH 할당문을 교체하세요.

   import os
   from cwsandbox import AuthHeaders
   
   AUTH = AuthHeaders(
       headers={"x-wandb-api-key": os.environ["FORGE_API_KEY"]},
       strategy="wandb_api_key",
   )
   

   이 코드는 FORGE_API_KEY를 명시적으로 읽고 SDK에서 지원하는 인증 헤더를 사용합니다. 헤더 이름과 전략 이름은 호환성을 위한 식별자일 뿐이며, 실제 사용자 인증 정보는 Forge API 키입니다. 선택적 의존성인 wandb는 설치하지 않아도 됩니다.

   .env에 토큰을 추가하세요.

   CWSANDBOX_API_KEY="[API-ACCESS-TOKEN]"
   

   레시피의 기본 AUTH 설정은 그대로 두세요.

   from cwsandbox import AuthStrategy
   
   AUTH = AuthStrategy.COREWEAVE_API_KEY
   
3. 비교를 실행하세요.
   uv run --frozen --env-file .env demo.py
   

Verified 8 distinct workload sandboxes; all sandboxes stopped.

​

워크로드에 맞게 풀 조정하기

POOL_SIZE = 2     # 유지할 유휴 샌드박스 목표 개수
CONCURRENCY = 2   # 실행 중인 워크로드 최대 개수
REQUESTS = 4      # 비교 모드별 요청 수

async with pool.claim() as sandbox:
    await sandbox.exec(["sh", "-c", "echo hello > /tmp/result.txt"], check=True)
    result = await sandbox.exec(["cat", "/tmp/result.txt"], check=True)
    print(result.stdout)

​

풀 계속 실행하기