学術論文
以下の論文では、Sweeps で使用されるハイパーパラメーター最適化手法の背後にあるアルゴリズムの背景について説明しています。 Li, Lisha, et al. “Hyperband: A novel bandit-based approach to hyperparameter optimization.” The Journal of Machine Learning Research 18.1 (2017): 6765-6816.Sweeps 実験
以下の W&B Reports は、Sweeps を使用したハイパーパラメーター最適化を探求する project を紹介しています。- Drought Watch Benchmark Progress
- 説明: ベースラインを開発し、Drought Watch ベンチマークへの提出内容を探求しています。
- Tuning Safety Penalties in Reinforcement Learning
- 説明: 3 つの異なるタスク (パターン作成、パターン除去、ナビゲーション) において、異なる副作用ペナルティでトレーニングされたエージェントを検証します。
- Meaning and Noise in Hyperparameter Search with W&B Stacey Svetlichnaya
- 説明: シグナルとパレイドリア (想像上のパターン) をどのように区別するのでしょうか。この記事では W&B で可能なことを紹介し、さらなる探求を促すことを目的としています。
- Who is Them? Text Disambiguation with Transformers
- 説明: Hugging Face を使用して、自然言語理解のためのモデルを探求します。
- DeepChem: Molecular Solubility
- 説明: ランダムフォレストとディープネットを使用して、分子構造から化学的特性を予測します。
- Intro to MLOps: Hyperparameter Tuning
- 説明: ハイパーパラメーター最適化が重要である理由を探求し、機械学習モデルのハイパーパラメーター調整を自動化する 3 つのアルゴリズムを検証します。
ハウツーガイド
以下のハウツーガイドでは、W&B を使用して実際の問題を解決する方法を示します：- XGBoost を使用した Sweeps
- 説明: XGBoost を使用した Sweeps によるハイパーパラメーター調整の使い方