다중 CPU 머신에서 병렬화하기
다음 탭에서는 동일한 머신에서 여러 스윕 에이전트를 병렬로 실행하는 방법을 설명합니다. 병렬 에이전트는 각 에이전트가 자체 코어에서 실행될 수 있는 다중 CPU 코어를 가진 머신에서 가장 유용합니다. CLI 또는 Jupyter Notebook 탭을 워크플로에 따라 선택하세요.- CLI
- Notebook
wandb agent 명령을 사용하여 터미널에서 스윕 에이전트를 여러 CPU에 걸쳐 병렬화하세요. 스윕을 초기화할 때 W&B가 반환한 sweep ID를 제공하세요.- 로컬 머신에서 터미널 창을 두 개 이상 여세요.
-
다음 코드 스니펫을 복사하여 붙여넣고
[SWEEP-ID]를 sweep ID로 교체하세요:
멀티 GPU 머신에서 병렬화하기
CUDA_VISIBLE_DEVICES로 각 wandb agent에 서로 다른 GPU를 부여하면, 같은 머신의 여러 GPU에서 스윕 에이전트를 병렬로 실행할 수 있습니다. 이렇게 하면 에이전트끼리 같은 디바이스를 두고 경쟁하지 않고 동시에 실행됩니다.
이 절차를 따르려면 다음이 필요합니다.
- GPU가 두 개 이상 장착된 머신
- NVIDIA CUDA Toolkit 설치
- 터미널
[SWEEP-ID]를 스윕을 초기화할 때 W&B가 반환하는 sweep ID로 바꾸세요.
-
터미널 하나에서
CUDA_VISIBLE_DEVICES를0으로 설정하고 에이전트를 시작하세요. -
다른 터미널에서
CUDA_VISIBLE_DEVICES를1로 설정하고 같은 sweep ID로 에이전트를 하나 더 시작하세요.