학술 논문
다음 논문은 스윕에서 사용되는 하이퍼파라미터 최적화 기법의 알고리즘에 대한 배경 지식을 제공합니다. Li, Lisha, et al. “Hyperband: A novel bandit-based approach to hyperparameter optimization.” The Journal of Machine Learning Research 18.1 (2017): 6765-6816.스윕 실험
다음 W&B Reports는 스윕을 활용한 하이퍼파라미터 최적화를 탐구하는 프로젝트를 소개합니다.- Drought Watch Benchmark Progress
- 설명: 기준 모델을 개발하고 Drought Watch 벤치마크에 제출된 결과를 탐구합니다.
- Tuning Safety Penalties in Reinforcement Learning
- 설명: 패턴 생성, 패턴 제거, 내비게이션이라는 세 가지 작업에서 서로 다른 부작용 페널티로 트레이닝된 에이전트를 살펴봅니다.
- Meaning and Noise in Hyperparameter Search with W&B Stacey Svetlichnaya
- 설명: 실제 신호와 파레이돌리아(상상 속 패턴)를 어떻게 구분할 수 있을까요? 이 글은 W&B로 가능한 작업을 소개하고 추가 탐구를 장려합니다.
- Who is Them? Text Disambiguation with Transformers
- 설명: Hugging Face를 사용하여 자연어 이해 모델을 탐구합니다.
- DeepChem: Molecular Solubility
- 설명: 랜덤 포레스트와 심층 신경망을 사용하여 분자 구조로부터 화학적 특성을 예측합니다.
- Intro to MLOps: Hyperparameter Tuning
- 설명: 하이퍼파라미터 최적화가 중요한 이유를 탐구하고 머신 러닝 모델의 하이퍼파라미터 튜닝을 자동화하는 세 가지 알고리즘을 살펴봅니다.
How-to 가이드
다음 how-to 가이드는 W&B로 실제 문제를 해결하는 방법을 보여줍니다:- Sweeps with XGBoost
- 설명: XGBoost를 사용해 하이퍼파라미터 튜닝에 스윕을 사용하는 방법.