> ## Documentation Index
> Fetch the complete documentation index at: https://docs.coreweave.com/llms.txt
> Use this file to discover all available pages before exploring further.

> L'entraînement et l'inférence à grande échelle, en toute simplicité, efficacité et flexibilité

# Hugging Face Accelerate

Hugging Face Accelerate est une bibliothèque qui permet d'exécuter le même code PyTorch sur n'importe quelle configuration distribuée, afin de simplifier l'entraînement et l'inférence de modèles à grande échelle.

Accelerate intègre un suivi W\&B. Cette page explique comment l'utiliser pour journaliser dans W\&B les métriques, la configuration et les artifacts de vos runs d'entraînement distribué. Pour plus d'informations, voir [Accelerate Trackers in Hugging Face](https://huggingface.co/docs/accelerate/main/en/usage_guides/tracking).

<h2 id="start-logging-with-accelerate">
  Commencer la journalisation avec Accelerate
</h2>

Cette section explique comment configurer Accelerate pour journaliser les données d’expérience dans W\&B pendant l’entraînement. Pour commencer à utiliser Accelerate avec W\&B, suivez ce pseudocode :

```python theme={"system"}
from accelerate import Accelerator

# Indiquer à l’objet Accelerator de journaliser avec wandb
accelerator = Accelerator(log_with="wandb")

# Initialiser votre run wandb en transmettant les paramètres wandb et toute information de configuration
accelerator.init_trackers(
    project_name="my_project", 
    config={"dropout": 0.1, "learning_rate": 1e-2},
    init_kwargs={"wandb": {"entity": "my-wandb-team"}}
    )

...

# Journaliser dans wandb en appelant accelerator.log() ; step est facultatif
accelerator.log({"train_loss": 1.12, "valid_loss": 0.8}, step=global_step)


# Vérifier que le suivi wandb se termine correctement
accelerator.end_training()
```

Plus en détail :

1. Passez `log_with="wandb"` lors de l’initialisation de la classe `Accelerator`.
2. Appelez la méthode [`init_trackers`](https://huggingface.co/docs/accelerate/main/en/package_reference/accelerator#accelerate.Accelerator.init_trackers) en lui transmettant :
   * Un nom de projet via `project_name`.
   * Les paramètres que vous souhaitez transmettre à [`wandb.init()`](/fr/products/wandb/ref/python/functions/init), sous forme de dictionnaire imbriqué, via `init_kwargs`.
   * Toute autre information de configuration de l’expérience que vous souhaitez journaliser dans votre run wandb, via `config`.
3. Utilisez la méthode `wandb.Run.log()` pour journaliser dans W\&B. L’argument `step` est facultatif.
4. Appelez `.end_training()` à la fin de l’entraînement.

<h2 id="access-the-wb-tracker">
  Accéder au suivi W\&B
</h2>

Une fois qu'Accelerate journalise dans W\&B, vous pouvez avoir besoin d'accéder directement à l'objet run W\&B sous-jacent pour journaliser des artifacts, des graphiques personnalisés ou d'autres données que le suivi n'expose pas. Pour accéder au suivi W\&B, utilisez la méthode `Accelerator.get_tracker()`. Transmettez-lui la chaîne correspondant à l'attribut `.name` d'un suivi : la méthode renvoie alors ce suivi sur le processus `main`.

```python theme={"system"}
wandb_tracker = accelerator.get_tracker("wandb")

```

Vous pouvez ensuite interagir avec l’objet run `wandb` comme vous le feriez normalement :

```python theme={"system"}
wandb_tracker.log_artifact(some_artifact_to_log)
```

<Warning>
  Les outils de suivi intégrés à Accelerate s’exécutent automatiquement sur le bon processus : si un outil de suivi ne doit s’exécuter que sur le processus principal, c’est donc le cas automatiquement.

  Pour supprimer entièrement l’encapsulation d’Accelerate, vous pouvez obtenir le même résultat avec :

  ```python theme={"system"}
  wandb_tracker = accelerator.get_tracker("wandb", unwrap=True)
  with accelerator.on_main_process:
      wandb_tracker.log_artifact(some_artifact_to_log)
  ```
</Warning>

<h2 id="accelerate-articles">
  Articles sur Accelerate
</h2>

Pour un guide pas à pas plus approfondi sur l’utilisation d’Accelerate avec W\&B, consultez l’article suivant.

<details>
  <summary>HuggingFace Accelerate Super Charged With W\&B</summary>

  Cet article présente les fonctionnalités de HuggingFace Accelerate et explique comment effectuer un entraînement et une évaluation distribués tout en journalisant les résultats dans W\&B.

  Lisez le rapport [Hugging Face Accelerate Super Charged with W\&B](https://wandb.ai/gladiator/HF%20Accelerate%20+%20W\&B/reports/Hugging-Face-Accelerate-Super-Charged-with-Weights-Biases--VmlldzoyNzk3MDUx?utm_source=docs\&utm_medium=docs\&utm_campaign=accelerate-docs).
</details>

<br />

<br />


## Related topics

- [Hugging Face Diffusers](/fr/products/wandb/integrations/diffusers.md)
