Créer une expérience - CoreWeave Docs

Utilisez le SDK Python W&B pour suivre vos expériences de machine learning. Vous pouvez ensuite examiner les résultats dans un tableau de bord interactif ou exporter vos données vers Python afin d’y accéder par programmation avec l’API publique de W&B. Ce guide explique comment utiliser les éléments de base de W&B pour créer une expérience W&B.

Comment créer une expérience W&B

Créez une expérience W&B en quatre étapes :

Initialiser un run W&B
Capturer un dictionnaire d’hyperparamètres
Consigner des métriques dans votre boucle d’entraînement
Journaliser un artifact dans W&B

Initialiser un run W&B

Utilisez wandb.init() pour créer un run W&B. L’extrait suivant crée un run dans un projet W&B nommé “cat-classification”, avec la description “My first experiment” pour faciliter l’identification de ce run. Les tags “baseline” et “paper1” permettent de se rappeler que ce run est une expérience de référence destinée à une future publication.

import wandb

with wandb.init(
    project="cat-classification",
    notes="My first experiment",
    tags=["baseline", "paper1"],
) as run:
    ...

wandb.init() renvoie un objet Run.

Remarque : si le projet existe déjà lorsque vous appelez wandb.init(), les runs sont ajoutés à ce projet existant. Par exemple, si vous disposez déjà d’un projet nommé “cat-classification”, ce projet est conservé et n’est pas supprimé : un nouveau run y est simplement ajouté.

Capturer un dictionnaire d’hyperparamètres

Enregistrez un dictionnaire d’hyperparamètres, comme le taux d’apprentissage ou le type de modèle. Les paramètres du modèle que vous capturez dans la configuration vous seront utiles par la suite pour organiser vos résultats et les interroger.

with wandb.init(
    ...,
    config={"epochs": 100, "learning_rate": 0.001, "batch_size": 128},
) as run:
    ...

Pour plus d’informations sur la configuration d’une expérience, voir Configurer des expériences.

Consigner des métriques dans votre boucle d’entraînement

Appelez run.log() pour consigner des métriques sur chaque étape d’entraînement, comme la précision et la perte.

model, dataloader = get_model(), get_data()

for epoch in range(run.config["epochs"]):
    for batch in dataloader:
        loss, accuracy = model.training_step()
        run.log({"accuracy": accuracy, "loss": loss})

Pour plus d’informations sur les différents types de données que vous pouvez journaliser avec W&B, consultez Journaliser des objets et des médias.

Journaliser un artifact dans W&B

Vous pouvez aussi, si vous le souhaitez, journaliser un artifact W&B. Les artifacts simplifient la gestion des versions de vos jeux de données et de vos modèles.

# Vous pouvez enregistrer n’importe quel fichier, voire un répertoire. Dans cet exemple, on suppose
# que le modèle dispose d’une méthode save() qui génère un fichier ONNX.
model.save("path_to_model.onnx")
run.log_artifact("path_to_model.onnx", name="trained-model", type="model")

En savoir plus sur les Artifacts ou sur la gestion des versions de modèles dans le registre.

Récapitulatif

Voici le script complet, qui regroupe les extraits de code précédents :

import wandb

with wandb.init(
    project="cat-classification",
    notes="",
    tags=["baseline", "paper1"],
    # Enregistrer les hyperparamètres du run.
    config={"epochs": 100, "learning_rate": 0.001, "batch_size": 128},
) as run:
    # Configurer le modèle et les données.
    model, dataloader = get_model(), get_data()

    # Lancer l'entraînement en journalisant les métriques afin de visualiser les performances du modèle.
    for epoch in range(run.config["epochs"]):
        for batch in dataloader:
            loss, accuracy = model.training_step()
            run.log({"accuracy": accuracy, "loss": loss})

    # Téléverser le modèle entraîné sous forme d'artifact.
    model.save("path_to_model.onnx")
    run.log_artifact("path_to_model.onnx", name="trained-model", type="model")

Étapes suivantes : visualiser votre expérience

Utilisez le workspace de votre projet pour organiser et visualiser les résultats de vos modèles de machine learning. Vous pouvez créer des graphiques interactifs, tels que des graphiques de coordonnées parallèles, des analyses de l’importance des paramètres et d’autres types de graphiques.

Exemple de workspace Sweeps du démarrage rapide

Pour plus d’informations sur la consultation des expériences et de runs spécifiques, voir Afficher les résultats des expériences.

Bonnes pratiques

Voici quelques recommandations à prendre en compte lorsque vous créez des expériences :

Gérer les runs avec un gestionnaire de contexte : utilisez wandb.init() dans une instruction with pour terminer automatiquement le run à la fin de l’exécution du code ou si celui-ci lève une exception.
- Dans les notebooks Jupyter, vous préférerez peut-être gérer vous-même l’objet run. Dans ce cas, appelez finish() pour le marquer comme terminé :
  # Dans une cellule de notebook : run = wandb.init() # Dans une autre cellule : run.finish()
Configuration : suivez les hyperparamètres, l’architecture du modèle, les informations sur le jeu de données et toutes les autres valeurs nécessaires pour reproduire votre modèle. Pour plus d’informations, voir Afficher la configuration dans la section Overview d’un run dans l’application W&B.
Projet : utilisez des projets pour centraliser vos expériences en un seul emplacement, où vous pouvez visualiser les résultats, comparer les runs, afficher et télécharger des artifacts, créer des automatisations, et bien plus encore.
Notes : ajoutez des notes pour décrire l’objectif d’un run, par exemple baseline model ou tuned hyperparameters. Vous pourrez modifier ces notes ultérieurement depuis l’aperçu du run dans l’application W&B.
Types de job : ajoutez des types de job à vos runs pour organiser et filtrer les runs par tâche, par exemple train, test ou inference.
Tags : ajoutez des tags aux runs pour les étiqueter avec des caractéristiques ou des attributs qui ne ressortent pas forcément des métriques journalisées ou des artifacts.

L’exemple suivant montre comment initialiser un run W&B en appliquant ces bonnes pratiques :

import wandb

config = {
    "learning_rate": 0.01,
    "momentum": 0.2,
    "architecture": "CNN",
    "dataset_id": "cats-0192",
}

with wandb.init(
    project="detect-cats",
    notes="tweak baseline",
    tags=["baseline", "paper1"],
    config=config,
) as run:
    ...

Pour en savoir plus sur les paramètres disponibles, consultez wandb.init() dans le guide de référence du SDK Python.

​Comment créer une expérience W&B

​Initialiser un run W&B

​Capturer un dictionnaire d’hyperparamètres

​Consigner des métriques dans votre boucle d’entraînement

​Journaliser un artifact dans W&B

​Récapitulatif

​Étapes suivantes : visualiser votre expérience

​Bonnes pratiques

Comment créer une expérience W&B

Initialiser un run W&B

Capturer un dictionnaire d’hyperparamètres

Consigner des métriques dans votre boucle d’entraînement

Journaliser un artifact dans W&B

Récapitulatif

Étapes suivantes : visualiser votre expérience

Bonnes pratiques