Implémenter un pool de préchauffage

​

Fonctionnement du pool

​

Exécuter la recette

1. Téléchargez ou clonez le dépôt de la recette, puis ouvrez recipes/warm-pool. Installez les dépendances et créez votre fichier d’environnement :
   uv sync --frozen
   cp .env.example .env
   
2. Configurez votre identifiant d’authentification dans .env et au début de demo.py :
   • Clé API Forge
   • Jeton d’accès à l’API CoreWeave

   Ajoutez votre clé API Forge à .env :

   FORGE_API_KEY="[FORGE-API-KEY]"
   

   Dans demo.py, ajoutez les imports suivants et remplacez l’affectation AUTH existante :

   import os
   from cwsandbox import AuthHeaders
   
   AUTH = AuthHeaders(
       headers={"x-wandb-api-key": os.environ["FORGE_API_KEY"]},
       strategy="wandb_api_key",
   )
   

   Ce code lit explicitement FORGE_API_KEY et utilise les en-têtes d’authentification pris en charge par le SDK. Les noms de l’en-tête et de la stratégie sont des identifiants de compatibilité ; l’identifiant d’authentification est bien une clé API Forge. La dépendance facultative wandb n’est pas nécessaire.

   Ajoutez votre jeton à .env :

   CWSANDBOX_API_KEY="[API-ACCESS-TOKEN]"
   

   Conservez le paramètre AUTH par défaut de la recette :

   from cwsandbox import AuthStrategy
   
   AUTH = AuthStrategy.COREWEAVE_API_KEY
   
3. Exécutez la comparaison :
   uv run --frozen --env-file .env demo.py
   

8 sandboxes de charge de travail distincts vérifiés ; tous les sandboxes ont été arrêtés.

​

Adapter le pool à votre charge de travail

POOL_SIZE = 2     # Nombre cible de bacs à sable inactifs.
CONCURRENCY = 2   # Nombre maximum de charges de travail actives.
REQUESTS = 4      # Requêtes par mode de comparaison.

async with pool.claim() as sandbox:
    await sandbox.exec(["sh", "-c", "echo hello > /tmp/result.txt"], check=True)
    result = await sandbox.exec(["cat", "/tmp/result.txt"], check=True)
    print(result.stdout)

​

Maintenir le pool actif