Comparer les options de capacité
Toutes les options CKS nécessitent un exécuteur de sandbox configuré et une politique qui autorise la charge de travail. La gestion de la capacité du cluster vous incombe. Le choix du placement CKS ne provisionne pas de Nœuds. Pour connaître les conditions commerciales de chaque offre, consultez À propos des offres de capacité. Pour exécuter une sandbox sur l’une de ces options de capacité CKS, suivez le guide Utiliser votre propre infrastructure de calcul.
Vérifier les exigences d’accès et de charge de travail
Certaines exigences peuvent exclure une option avant même que vous compariez la demande ou le coût :
La limite de GPU par sandbox s’applique à votre organisation, que le placement soit sans serveur ou sur CKS. Toute requête qui la dépasse échoue avec l’erreur
CWSANDBOX_GPU_COUNT_EXCEEDED. Pour demander une limite plus élevée, contactez l’assistance ou votre équipe de compte. Voir GPU par sandbox.
Les Sandbox GPU nécessitent un accès distinct à la préversion privée, pour le placement sans serveur comme pour le placement sur CKS. Pour connaître les clients, le matériel et les exigences d’isolation pris en charge, voir Exécuter une sandbox GPU. Pour les paramètres de runtime CKS, voir Configurer une politique de sandbox.
L’identifiant d’authentification détermine le compte propriétaire de la sandbox. Pour les comptes Forge SaaS et CoreWeave, voir Facturation de CoreWeave Infrastructure et de Forge. Si vous utilisez une clé d’instance de Cloud dédié, confirmez les conditions de facturation et les limites effectives avec votre équipe de compte. Les valeurs par défaut du compte Forge ne suffisent pas à déterminer le quota de votre instance. Voir Utiliser les Sandbox avec le Cloud dédié de W&B.
Avant de prévoir un chemin de débordement ou une solution de repli, consultez Choisir et obtenir des identifiants et Limites et quotas. Les Sandbox CKS ne sont pas comptabilisées dans le quota de sandbox sans serveur simultanées.
Planifier en fonction de la demande stable et des pics
Distinguez la capacité que vous utilisez de manière constante des pics occasionnels. L’illustration suivante montre une demande de référence stable, surmontée de pics. Elle représente un modèle de planification, et non une utilisation mesurée, une comparaison de prix ou un comportement de placement automatique.- Demande stable : envisagez les Instances réservées pour une utilisation soutenue. Si vous disposez déjà d’une capacité réservée inutilisée adaptée, envisagez de l’utiliser avant de vous engager davantage.
- Demande variable avec pic garanti : envisagez les Flex Reservations lorsqu’il est important de conserver la capacité de pic, même si une partie reste inactive.
- Pics occasionnels : envisagez le mode sans serveur pour éviter de gérer des nœuds supplémentaires. L’option À la demande constitue une autre possibilité si vous avez besoin d’un placement CKS et pouvez tolérer une éventuelle indisponibilité de la capacité.
- Travaux pouvant redémarrer : envisagez Spot si les nouvelles tentatives et des délais d’achèvement flexibles sont acceptables. Le profil de la demande ne suffit pas, à lui seul, à déterminer si les interruptions sont sans risque.
Limites de la mise à l’échelle et des interruptions
L’autoscaling des Node Pools ne garantit pas la capacité nécessaire à la création de Sandbox, et le débordement ne permet pas de reprendre le travail interrompu.Autoscaling des Node Pools
Le Cluster Autoscaler de CKS ajoute des nœuds lorsque des pods ne peuvent pas être planifiés. Le placement des sandbox peut rejeter une requête pour capacité insuffisante avant même de créer un pod. Dans ce cas, aucun pod en attente ne peut déclencher la montée en charge. Allonger le délai d’expiration de la sandbox ne crée pas ce déclencheur. Cette limitation s’applique aux Sandbox exécutés sur votre propre cluster CKS, quelle que soit l’offre de capacité du Node Pool. Ne comptez pas sur les requêtes de sandbox entrantes pour faire monter en charge un Node Pool CKS à partir de zéro. Provisionnez la capacité en amont de la demande, conservez suffisamment de capacité prête ou utilisez le mode sans serveur pour absorber les pics. Une réservation de capacité garantit la réservation elle-même, mais pas que les nœuds soient déjà prêts à accepter une requête de sandbox.Interruptions Spot
La récupération de capacité Spot peut interrompre une sandbox en cours d’exécution. Réservez Spot aux tâches que votre application peut relancer sans risque. Conservez les résultats ou les points de contrôle nécessaires à la récupération en dehors de la sandbox interrompue. Pour la séquence d’arrêt des nœuds, consultez Préemption d’instance. Un Node Pool Spot peut réapprovisionner des nœuds lorsque de la capacité redevient disponible. Le remplacement d’un nœud ne restaure pas l’état d’une sandbox en cours d’exécution.Débordement entre modes de placement
Le débordement automatique de Python relance une seule fois la création de la sandbox dans l’autre mode de placement en cas d’échec de placement éligible. Il ne migre pas les Sandbox en cours d’exécution et ne récupère pas le travail interrompu par la récupération de capacité Spot. Le débordement nécessite un jeton d’accès à l’API CoreWeave associé à une organisation disposant d’un accès sans serveur, ainsi qu’un exécuteur CKS configuré. Chaque mode applique sa propre politique de ressources et ses propres limites. Le client TypeScript prend en charge les deux modes de placement, mais ne fournit pas de débordement automatique. La création d’une sandbox à partir d’un modèle etrun_from_file() exigent un placement strict, sans débordement.
Pour en savoir plus sur la configuration, les sens de débordement pris en charge et les restrictions relatives aux exécuteurs, voir Basculer entre les modes.