Articles académiques
L’article suivant présente les fondements des algorithmes sur lesquels reposent les techniques d’optimisation des hyperparamètres utilisées dans Sweeps. Li, Lisha, et al. « Hyperband: A novel bandit-based approach to hyperparameter optimization. » The Journal of Machine Learning Research 18.1 (2017) : 6765-6816.Expériences avec Sweeps
Les W&B Reports suivants présentent des projets consacrés à l’optimisation des hyperparamètres avec Sweeps.- Drought Watch Benchmark Progress
- Description : élaboration d’une référence et exploration des soumissions au benchmark Drought Watch.
- Tuning Safety Penalties in Reinforcement Learning
- Description : étude d’agents entraînés avec différentes pénalités d’effets de bord sur trois tâches distinctes : création de motifs, suppression de motifs et navigation.
- Meaning and Noise in Hyperparameter Search with W&B Stacey Svetlichnaya
- Description : comment distinguer le signal de la paréidolie (motifs imaginaires) ? Cet article illustre les possibilités offertes par W&B et vise à encourager une exploration plus approfondie.
- Who is Them? Text Disambiguation with Transformers
- Description : utilisation de Hugging Face pour explorer des modèles de compréhension du langage naturel.
- DeepChem: Molecular Solubility
- Description : prédiction de propriétés chimiques à partir de la structure moléculaire à l’aide de forêts aléatoires et de réseaux de neurones profonds.
- Intro to MLOps: Hyperparameter Tuning
- Description : découvrez pourquoi l’optimisation des hyperparamètres est essentielle et examinez trois algorithmes permettant de l’automatiser pour vos modèles de machine learning.
Guide pratique
Le guide pratique suivant montre comment résoudre des problèmes concrets avec W&B :- Sweeps avec XGBoost
- Description : comment utiliser Sweeps pour l’optimisation des hyperparamètres avec XGBoost.