wandb.watch() で勾配とモデルの重みをログするにはどうすればよいですか？

wandb.watch() は PyTorch モデルのパラメーターと勾配にフックを追加し、それらの値のヒストグラムを一定間隔でログします。これは、トレーニングの不安定性、勾配消失、活動しないニューロンの診断に役立ちます。 基本的な使用方法 wandb.init() の後、最初のトレーニングステップの前に wandb.watch() を呼び出します：

import wandb
import torch.nn as nn

wandb.init(project="my-project")

model = MyModel()
wandb.watch(model, log="gradients", log_freq=100)

for step, batch in enumerate(dataloader):
    loss = train_step(model, batch)
    loss.backward()
    optimizer.step()
    optimizer.zero_grad()

    wandb.log({"train/loss": loss.item()}, step=step)

wandb.finish()

勾配のヒストグラムは log_freq バッチごとにログされます (Run.watch() のデフォルトは log_freq=1000 です。この例では、より早くフィードバックを得るために 100 を使用しています) 。これらは Charts タブに、gradients/layer_name.weight などのキーで表示されます。 log パラメーターのオプション

値	ログされる内容
`"gradients"`	勾配のヒストグラムのみ (デフォルト)
`"parameters"`	重み/パラメーターのヒストグラムのみ
`"all"`	勾配とパラメーターの両方
`None`	どちらもログせず、モデルのグラフのトポロジのみをログします

wandb.watch(model, log="all", log_freq=50)

モデルのグラフのトポロジをログする ヒストグラムのログが無効または最小限の場合に計算グラフを取得するには、log_graph=True を渡します。グラフは run の Overview タブの Model で確認できます。log、log_graph、log_freq の相互作用については、Run.watch() を参照してください。

wandb.watch(model, log=None, log_graph=True)  # グラフを重視し、ヒストグラムはログしません

複数のモデルの監視 モデルごとに wandb.watch() を個別に呼び出します (GAN のトレーニングで便利です)：

wandb.watch(generator, log="gradients", log_freq=100)
wandb.watch(discriminator, log="gradients", log_freq=100)

各モデルの勾配は、パラメーター名を接頭辞としてログされます。 パフォーマンスの考慮事項 勾配のログには、log_freq に比例するオーバーヘッドが発生します。毎ステップのログ (log_freq=1) は、トレーニングを大幅に遅くする可能性があります。ほとんどのトレーニング run では、50〜200 の値が一般的です。パフォーマンスが重要な場合は、log="gradients" ではなく log="parameters" を設定してください。パラメーターのヒストグラムは逆伝播のフックなしで計算されるため、負荷が低くなります。 監視の停止 トレーニングの途中で勾配のログを停止するには:

wandb.unwatch(model)

これにより、run を終了せずにフックが削除されるため、メトリクスのログは影響を受けずに継続されます。

Experiments メトリクス Runs