Skip to main content
Parallélisez vos agents de sweep sur une machine multicœur ou multi-GPU pour exécuter plusieurs runs de sweep simultanément. La parallélisation réduit le temps nécessaire à l’exploration de votre espace d’hyperparamètres. Cette page explique comment lancer des agents en parallèle sur des machines multi-CPU et multi-GPU afin d’exploiter toutes les ressources de calcul disponibles sur un même hôte. Avant de commencer, vous devez initialiser votre sweep. Pour plus d’informations, voir Initialiser des sweeps.

​
Paralléliser sur une machine multi-CPU

Les onglets suivants expliquent comment exécuter plusieurs agents de sweep en parallèle sur une même machine. Les agents parallèles sont particulièrement utiles sur une machine dotée de plusieurs cœurs CPU, où chaque agent peut s’exécuter sur son propre cœur. Selon votre flux de travail, choisissez l’onglet CLI ou Jupyter Notebook.
Utilisez la commande wandb agent pour paralléliser votre agent de sweep sur plusieurs CPU depuis le terminal. Fournissez l’ID du sweep renvoyé par W&B lorsque vous avez initialisé le sweep.
  1. Ouvrez plusieurs fenêtres de terminal sur votre machine locale.
  2. Copiez-collez l’extrait de code suivant en remplaçant [SWEEP-ID] par l’ID de votre sweep :

​
Paralléliser sur une machine multi-GPU

Exécutez des agents de sweep en parallèle sur plusieurs GPU d’une même machine en utilisant CUDA_VISIBLE_DEVICES pour attribuer chaque wandb agent à un GPU différent. Les agents s’exécutent ainsi en parallèle sans se disputer le même périphérique. Pour suivre cette procédure, vous avez besoin des éléments suivants :
  • Une machine équipée de plusieurs GPU.
  • Le NVIDIA CUDA Toolkit installé.
  • Un terminal.
Supposons par exemple que votre machine locale dispose de deux GPU NVIDIA. Dans chaque commande, remplacez [SWEEP-ID] par l’ID de sweep que W&B renvoie lorsque vous initialisez un sweep :
  1. Dans un terminal, définissez CUDA_VISIBLE_DEVICES sur 0 et démarrez un agent :
  2. Dans un autre terminal, définissez CUDA_VISIBLE_DEVICES sur 1 et démarrez un second agent avec le même ID de sweep :
Dernière modification le 30 septembre 2026