Tutoriel : notions de base de W&B Launch

Qu’est-ce que Launch ?

Essayer dans Colab

Ce tutoriel présente W&B Launch aux praticiens du ML et aux équipes plateforme. Il vous guide dans la création d’un job Launch, la configuration d’une file d’attente, la connexion d’un agent et la soumission de jobs à exécuter. À la fin, vous aurez exécuté une charge de travail ML conteneurisée avec W&B Launch et disposerez d’une file d’attente et d’un agent opérationnels, réutilisables par votre équipe. Avec W&B Launch, faites passer vos runs d’entraînement de votre poste de travail à une ressource de calcul telle qu’Amazon SageMaker, Kubernetes, etc. Une fois Launch configuré, quelques clics et commandes suffisent pour exécuter des scripts d’entraînement et des suites d’évaluation de modèles, préparer des modèles pour l’inférence en production, et bien plus encore.

Fonctionnement

Launch repose sur trois composants fondamentaux : les jobs Launch, les files d’attente et les agents. Un job Launch est un modèle qui permet de configurer et d’exécuter des tâches dans votre flux de travail de ML. Une fois que vous disposez d’un job Launch, vous pouvez l’ajouter à une file d’attente Launch. Une file d’attente Launch est une file de type premier entré, premier sorti (FIFO) dans laquelle vous pouvez configurer vos jobs et les soumettre à une ressource de calcul cible spécifique, comme Amazon SageMaker ou un cluster Kubernetes. À mesure que des jobs sont ajoutés à la file d’attente, des agents Launch interrogent cette file et exécutent les jobs sur le système qu’elle cible.

Selon votre cas d’usage, vous (ou un membre de votre équipe) configurez la file d’attente Launch en fonction de la ressource de calcul cible choisie (par exemple, Amazon SageMaker), puis déployez un agent Launch sur votre propre infrastructure. Pour plus d’informations sur Launch, voir la page Termes et concepts.

Premiers pas

Selon votre cas d’usage, explorez les ressources suivantes pour faire vos premiers pas avec W&B Launch :

Si vous utilisez W&B Launch pour la première fois, commencez par le guide pas à pas de Launch.
Découvrez comment configurer W&B Launch.
Créez un job Launch.
Consultez le dépôt GitHub des jobs publics de W&B Launch pour y trouver des modèles de tâches courantes, comme le déploiement sur Triton, l’évaluation d’un LLM, et bien d’autres.
- Consultez les jobs Launch créés à partir de ce dépôt dans le projet W&B public wandb/jobs.

Guide pas à pas

Cette page présente les notions de base du flux de travail W&B Launch.

W&B Launch exécute des charges de travail de machine learning dans des conteneurs. Il n’est pas nécessaire de connaître les conteneurs pour suivre ce guide pas à pas, mais cela peut être utile. Pour une introduction aux conteneurs, consultez la documentation Docker.

Prérequis

Avant de commencer, assurez-vous de remplir les prérequis suivants. Ils concernent le compte, les outils et l’authentification dont vous aurez besoin pour exécuter les commandes de ce guide pas à pas.

Inscrivez-vous sur https://wandb.ai/site pour créer un compte, puis connectez-vous à votre compte W&B.
Ce guide pas à pas nécessite un accès terminal à une machine disposant d’une CLI et d’un moteur Docker fonctionnels. Pour plus d’informations, consultez le guide d’installation de Docker.
Installez le SDK Python W&B en version 0.17.1 ou ultérieure :
pip install wandb>=0.17.1
Dans votre terminal, exécutez wandb login ou définissez la variable d’environnement WANDB_API_KEY pour vous authentifier auprès de W&B.

Se connecter à W&B
Variable d’environnement

Dans votre terminal, exécutez :

wandb login

    WANDB_API_KEY=[API-KEY]

Remplacez [API-KEY] par votre clé API W&B.

Créer un job Launch

Un job Launch est le modèle de la charge de travail que vous souhaitez faire exécuter par Launch ; vous devez donc en créer un avant de pouvoir soumettre du travail à une file d’attente. Vous pouvez créer un job Launch de trois manières : avec une image Docker, à partir d’un dépôt Git ou à partir de code source local :

Avec une image Docker
À partir d'un dépôt Git
À partir de code source local

Pour exécuter un conteneur prêt à l’emploi qui journalise un message dans W&B, ouvrez un terminal et exécutez la commande suivante :

wandb launch --docker-image wandb/job_hello_world:main --project launch-quickstart

Cette commande télécharge et exécute l’image de conteneur wandb/job_hello_world:main.Launch configure le conteneur pour que tout ce qui est journalisé avec wandb soit envoyé au projet launch-quickstart. Le conteneur journalise un message dans W&B et affiche un lien vers le run dans W&B. Cliquez sur ce lien pour afficher le run dans l’interface W&B.

Pour lancer le même job hello-world à partir de son code source dans le dépôt W&B Launch jobs, exécutez la commande suivante :

wandb launch --uri https://github.com/wandb/launch-jobs.git \\
--job-name hello-world-git --project launch-quickstart \\ 
--build-context jobs/hello_world --dockerfile Dockerfile.wandb \\ 
--entry-point "python job.py"

Cette commande effectue les opérations suivantes :

Clone le dépôt W&B Launch jobs dans un répertoire temporaire.
Crée un job nommé hello-world-git dans le projet hello. Ce job suit précisément le code source et la configuration utilisés pour exécuter le code.
Construit une image de conteneur à partir du répertoire jobs/hello_world et du fichier Dockerfile.wandb.
Démarre le conteneur et exécute le script Python job.py.

La sortie de la console affiche la construction de l’image puis son exécution. La sortie du conteneur devrait être quasiment identique à celle de l’exemple précédent.

Vous pouvez lancer du code qui n’est pas versionné dans un dépôt Git en passant le chemin d’un répertoire local à l’argument --uri.Créez un répertoire vide et ajoutez-y un script Python nommé train.py avec le contenu suivant :

import wandb

with wandb.init() as run:
    run.log({"hello": "world"})

Ajoutez un fichier requirements.txt avec le contenu suivant :

wandb>=0.17.1

Depuis ce répertoire, exécutez la commande suivante :

wandb launch --uri . --job-name hello-world-code --project launch-quickstart --entry-point "python train.py"

Cette commande effectue les opérations suivantes :

Journalise le contenu du répertoire courant dans W&B en tant qu’artifact de code.
Crée un job nommé hello-world-code dans le projet launch-quickstart.
Construit une image de conteneur en copiant train.py et requirements.txt dans une image de base, puis installe les dépendances avec pip install.
Démarre le conteneur et exécute python train.py.

Créer une file d’attente

Une fois le job Launch en place, l’étape suivante consiste à créer une file d’attente qui définit où et comment les jobs s’exécutent. Launch est conçu pour aider les équipes à bâtir des flux de travail autour de ressources de calcul partagées. Dans les exemples présentés jusqu’ici, la commande wandb launch a exécuté un conteneur de manière synchrone sur la machine locale. Les files d’attente Launch et les agents permettent d’exécuter des jobs de manière asynchrone sur des ressources partagées et donnent accès à des fonctionnalités avancées comme la priorisation et l’optimisation des hyperparamètres. Pour créer une file d’attente de base, suivez ces étapes :

Accédez à https://forge.coreweave.com/wandb/launch et cliquez sur le bouton Create a queue.
Sélectionnez l’Entity à laquelle associer la file d’attente.
Saisissez un Queue name.
Sélectionnez Docker comme Resource.
Laissez le champ Configuration vide.
Cliquez sur Create queue.

Une fois que vous avez cliqué sur le bouton, le navigateur vous redirige vers l’onglet Agents de la vue de la file d’attente. La file d’attente reste à l’état Not active jusqu’à ce qu’un agent commence à l’interroger.

Pour découvrir les options avancées de configuration de la file d’attente, consultez la page de configuration avancée des files d’attente.

Connecter un agent à la file d’attente

Une file d’attente reste inactive tant qu’aucun agent ne l’interroge : vous devez donc connecter un agent avant de pouvoir exécuter des jobs. Si aucun agent n’interroge la file d’attente, la vue de la file d’attente affiche un bouton Add an agent dans une bannière rouge en haut de l’écran. Cliquez sur ce bouton pour afficher et copier la commande qui permet d’exécuter un agent. La commande doit ressembler à ceci :

wandb launch-agent --queue [QUEUE-NAME] --entity [ENTITY-NAME]

Remplacez [QUEUE-NAME] par le nom de votre file d’attente et [ENTITY-NAME] par votre entity W&B. Exécutez la commande dans un terminal pour démarrer l’agent. L’agent interroge la file d’attente spécifiée pour y récupérer des jobs à exécuter. Dès qu’il reçoit un job, l’agent télécharge ou construit une image de conteneur pour ce job, puis l’exécute, comme si vous aviez lancé la commande wandb launch en local. Revenez à la page Launch et vérifiez que la file d’attente affiche désormais l’état Active.

Soumettre un job à la file d’attente

Maintenant que vous disposez d’une file d’attente et d’un agent qui l’interroge, vous pouvez soumettre l’un des jobs Launch créés précédemment et suivre son exécution sur les ressources de calcul partagées. Accédez à votre projet launch-quickstart dans votre compte W&B et ouvrez l’onglet des jobs depuis la barre de navigation située à gauche de l’écran. La page Jobs affiche la liste des jobs créés à partir des runs précédents. Cliquez sur votre job Launch pour afficher son code source, ses dépendances et les runs créés à partir de ce job. À la fin de ce guide pas à pas, la liste contient trois jobs. Choisissez l’un des jobs et suivez ces instructions pour le soumettre à la file d’attente :

Cliquez sur le bouton Launch pour soumettre le job à une file d’attente. Le volet latéral Launch s’affiche.
Sélectionnez la Queue que vous avez créée précédemment, puis cliquez sur Launch.

Le job est alors soumis à la file d’attente. L’agent qui interroge cette file d’attente récupère le job et l’exécute. Vous pouvez suivre la progression du job depuis l’interface W&B ou en consultant la sortie de l’agent dans le terminal. La commande wandb launch permet de téléverser directement des jobs vers la file d’attente à l’aide de l’argument --queue. Par exemple, pour soumettre le job de conteneur hello-world à la file d’attente, exécutez la commande suivante :

   wandb launch --docker-image wandb/job_hello_world:main --project launch-quickstart --queue [QUEUE-NAME]

Remplacez [QUEUE-NAME] par le nom de votre file d’attente. Vous disposez désormais d’un flux de travail W&B Launch complet : un job Launch, une file d’attente, un agent qui l’interroge et un job qui s’exécute de manière asynchrone sur des ressources de calcul partagées. Vous pouvez réutiliser ce modèle pour vos propres charges de travail d’entraînement, d’évaluation et d’inférence.

​Qu’est-ce que Launch ?

Essayer dans Colab

​Fonctionnement

​Premiers pas

​Guide pas à pas

​Prérequis

​Créer un job Launch

​Créer une file d’attente

​Connecter un agent à la file d’attente

​Soumettre un job à la file d’attente

Qu’est-ce que Launch ?

Fonctionnement

Premiers pas

Guide pas à pas

Prérequis

Créer un job Launch

Créer une file d’attente

Connecter un agent à la file d’attente

Soumettre un job à la file d’attente