マルチ CPU マシンで並列化する
以下のタブでは、同じマシン上で複数の sweep エージェントを並列に実行する方法を説明します。並列エージェントは、複数の CPU コアを備えたマシンで特に効果を発揮します。各エージェントがそれぞれ専用のコアで実行されるためです。ワークフローに応じて、CLI または Jupyter ノートブックのタブを選択してください。- CLI
- ノートブック
ターミナルで
wandb agent コマンドを使用して、sweep エージェントを複数の CPU で並列化します。sweep の初期化時に W&B から返された sweep ID を指定してください。- ローカルマシンでターミナルウィンドウを複数開きます。
-
次のコードスニペットをコピー&ペーストし、
[SWEEP-ID]を実際の sweep ID に置き換えます。
マルチ GPU マシンで並列化する
CUDA_VISIBLE_DEVICES を使用して各 wandb agent にそれぞれ異なる GPU を割り当てると、同じマシン上の複数の GPU で sweep エージェントを並列に実行できます。各エージェントが同じデバイスを奪い合うことはありません。
この手順を実行するには、次のものが必要です。
- 複数の GPU を搭載したマシン
- NVIDIA CUDA Toolkit (インストール済みであること)
- ターミナル
[SWEEP-ID] は、sweep の初期化時に W&B から返される sweep ID に置き換えてください。
-
1 つ目のターミナルで
CUDA_VISIBLE_DEVICESを0に設定し、エージェントを起動します。 -
別のターミナルで
CUDA_VISIBLE_DEVICESを1に設定し、同じ sweep ID でもう 1 つのエージェントを起動します。