Temps de nettoyage prolongés des évaluations

Cette page présente deux méthodes à combiner pour réduire les temps de nettoyage prolongés lorsque vous exécutez des évaluations W&B Weave sur des datasets volumineux. Elle s’adresse aux utilisateurs qui constatent des délais importants entre la fin de l’exécution de leur code d’évaluation et l’arrêt du programme. Les sections suivantes expliquent comment effectuer le vidage des tâches en arrière-plan en attente et comment augmenter le parallélisme côté client.

Vider les tâches en arrière-plan en attente

Le vidage force les tâches en arrière-plan en attente à se terminer en parallèle de votre thread principal, au lieu de les attendre une fois votre code terminé. Lorsque vous exécutez des évaluations sur des datasets volumineux, vous pouvez constater un long délai avant la fin de l’exécution du programme, le temps que le dataset soit téléversé par des threads en arrière-plan. Cela se produit lorsque l’exécution du thread principal se termine avant la fin du nettoyage en arrière-plan. Appeler client.flush() force le traitement de toutes les tâches en arrière-plan dans le thread principal, ce qui garantit un traitement parallèle pendant l’exécution du thread principal. Cela peut améliorer les performances lorsque le code utilisateur se termine avant que les données ne soient téléversées sur le serveur. L’exemple suivant vide les tâches en arrière-plan en attente après une évaluation :

client = weave.init("fast-upload")

# ... configuration de l’évaluation
result = evaluation.Evaluate(dataset_id="my_dataset_id")

client.flush()

Augmenter le parallélisme du client

Augmenter le parallélisme du client permet à Weave de disposer de davantage de threads pour les tâches en arrière-plan, comme le téléversement de datasets, ce qui, combiné au vidage, peut réduire encore davantage le temps de nettoyage. Weave détermine automatiquement le parallélisme du client en fonction de l’environnement, mais vous pouvez le définir manuellement à l’aide de la variable d’environnement suivante :

WEAVE_CLIENT_PARALLELISM : nombre de threads disponibles pour le traitement parallèle. Augmenter cette valeur peut améliorer les performances des tâches en arrière-plan, comme le téléversement de datasets.

Vous pouvez également définir ce paramètre par programmation à l’aide de l’argument settings de weave.init() :

client = weave.init("fast-upload", settings={"client_parallelism": 100})

Performances Évaluation

​Vider les tâches en arrière-plan en attente

​Augmenter le parallélisme du client

Vider les tâches en arrière-plan en attente

Augmenter le parallélisme du client