> ## Documentation Index
> Fetch the complete documentation index at: https://docs.coreweave.com/llms.txt
> Use this file to discover all available pages before exploring further.

# Keras

> W&B の Keras コールバックを使用して、トレーニング中に実験をトラッキングし、モデルのチェックポイントを保存し、予測を可視化します。

export const ColabLink = ({url}) => <a href={url} target="_blank" rel="noopener noreferrer" className="colab-link">
    <svg width="20" height="20" viewBox="0 0 24 24" fill="currentColor" xmlns="http://www.w3.org/2000/svg">
      <path d="M14.25.18l.9.2.73.26.59.3.45.32.34.34.25.34.16.33.1.3.04.26.02.2-.01.13V8.5l-.05.63-.13.55-.21.46-.26.38-.3.31-.33.25-.35.19-.35.14-.33.1-.3.07-.26.04-.21.02H8.77l-.69.05-.59.14-.5.22-.41.27-.33.32-.27.35-.2.36-.15.37-.1.35-.07.32-.04.27-.02.21v3.06H3.17l-.21-.03-.28-.07-.32-.12-.35-.18-.36-.26-.36-.36-.35-.46-.32-.59-.28-.73-.21-.88-.14-1.05-.05-1.23.06-1.22.16-1.04.24-.87.32-.71.36-.57.4-.44.42-.33.42-.24.4-.16.36-.1.32-.05.24-.01h.16l.06.01h8.16v-.83H6.18l-.01-2.75-.02-.37.05-.34.11-.31.17-.28.25-.26.31-.23.38-.2.44-.18.51-.15.58-.12.64-.1.71-.06.77-.04.84-.02 1.27.05zm-6.3 1.98l-.23.33-.08.41.08.41.23.34.33.22.41.09.41-.09.33-.22.23-.34.08-.41-.08-.41-.23-.33-.33-.22-.41-.09-.41.09zm13.09 3.95l.28.06.32.12.35.18.36.27.36.35.35.47.32.59.28.73.21.88.14 1.04.05 1.23-.06 1.23-.16 1.04-.24.86-.32.71-.36.57-.4.45-.42.33-.42.24-.4.16-.36.09-.32.05-.24.02-.16-.01h-8.22v.82h5.84l.01 2.76.02.36-.05.34-.11.31-.17.29-.25.25-.31.24-.38.2-.44.17-.51.15-.58.13-.64.09-.71.07-.77.04-.84.01-1.27-.04-1.07-.14-.9-.2-.73-.25-.59-.3-.45-.33-.34-.34-.25-.34-.16-.33-.1-.3-.04-.25-.02-.2.01-.13v-5.34l.05-.64.13-.54.21-.46.26-.38.3-.32.33-.24.35-.2.35-.14.33-.1.3-.06.26-.04.21-.02.13-.01h5.84l.69-.05.59-.14.5-.21.41-.28.33-.32.27-.35.2-.36.15-.36.1-.35.07-.32.04-.28.02-.21V6.07h2.09l.14.01.21.03zm-6.47 14.25l-.23.33-.08.41.08.41.23.33.33.23.41.08.41-.08.33-.23.23-.33.08-.41-.08-.41-.23-.33-.33-.23-.41-.08-.41.08z" />
    </svg>
    Try in Colab
  </a>;

W\&B の Keras コールバックを使用すると、トレーニング中に実験をトラッキングし、モデル チェックポイントをログし、モデルの予測を可視化できます。このインテグレーションを使用すれば、トレーニングループを書き換えることなく、Keras のトレーニングワークフローに実験管理とモデルのバージョン管理を追加できます。

Keras コールバックは、Python SDK バージョン `0.13.4` 以降の `wandb.integration.keras` モジュールで利用できます。W\&B Keras インテグレーションには、次のコールバックが用意されています。

* **`WandbMetricsLogger`**: [実験管理](/ja/products/wandb/track)に使用するコールバックです。トレーニングと検証のメトリクスを、システムメトリクスとあわせて W\&B にログします。
* **`WandbModelCheckpoint`**: モデル チェックポイントを W\&B [Artifacts](/ja/products/wandb/artifacts) にログするためのコールバックです。
* **`WandbEvalCallback`**: モデルの予測を W\&B [Tables](/ja/products/wandb/tables) にログし、インタラクティブに可視化できるようにするベースコールバックです。

<h2 id="install-and-import-keras-integration">
  Keras インテグレーションのインストールとインポート
</h2>

W\&B の最新バージョンをインストールします。

```bash theme={"system"}
pip install -U wandb
```

Keras インテグレーションを使用するには、`wandb.integration.keras` から必要なクラスをインポートします。

```python theme={"system"}
import wandb
from wandb.integration.keras import WandbMetricsLogger, WandbModelCheckpoint, WandbEvalCallback
```

以下のセクションでは、各コールバックについてコード例を交えて詳しく説明します。

<h2 id="track-experiments-with-wandbmetricslogger">
  `WandbMetricsLogger` で実験をトラッキングする
</h2>

<ColabLink url="https://colab.research.google.com/github/wandb/examples/blob/master/colabs/keras/Use_WandbMetricLogger_in_your_Keras_workflow.ipynb" />

`wandb.integration.keras.WandbMetricsLogger()` は、`on_epoch_end` や `on_batch_end` などのコールバックメソッドが引数として受け取る Keras の `logs` 辞書をログします。

次の部分的なサンプルでは、Keras ワークフローでの `WandbMetricsLogger()` の使い方を示します。まず、使用するオプティマイザー、損失関数、メトリクスを指定してモデルをコンパイルします。次に、`wandb.init()` を使用して W\&B run を初期化します。最後に、`WandbMetricsLogger()` コールバックを `model.fit()` に渡します。

```python theme={"system"}
import wandb
from wandb.integration.keras import WandbMetricsLogger
import tensorflow as tf

model.compile(
    optimizer = "adam",
    loss = "categorical_crossentropy",
    metrics = ["accuracy", tf.keras.metrics.TopKCategoricalAccuracy(k=5, name='top@5_accuracy')]
)

# 新しい W&B run を初期化します
with wandb.init(config={"batch_size": 64}) as run:

    # WandbMetricsLogger を model.fit に渡します
    model.fit(
        X_train, y_train, validation_data=(X_test, y_test), callbacks=[WandbMetricsLogger()]
    )
```

前の例では、各エポックの終わりに、`loss`、`accuracy`、`top@5_accuracy` などのトレーニングおよび検証のメトリクスを W\&B にログします。

<h3 id="wandbmetricslogger-reference">
  `WandbMetricsLogger` リファレンス
</h3>

| パラメーター | 説明 |
| - | - |
| `log_freq` | (`epoch`、`batch`、または `int`): `epoch` の場合、各エポックの終了時にメトリクスをログします。`batch` の場合、各バッチの終了時にメトリクスをログします。`int` の場合、指定した数のバッチが終了するたびにメトリクスをログします。デフォルトは `epoch` です。 |
| `initial_global_step` | (int): initial\_epoch からトレーニングを再開し、学習率スケジューラーを使用する場合に、学習率を正しくログするためにこの引数を使用します。この値は step\_size \* initial\_step として計算できます。デフォルトは 0 です。 |

<h2 id="checkpoint-a-model-using-wandbmodelcheckpoint">
  `WandbModelCheckpoint` を使用してモデルのチェックポイントを保存する
</h2>

<ColabLink url="https://colab.research.google.com/github/wandb/examples/blob/master/colabs/keras/Use_WandbModelCheckpoint_in_your_Keras_workflow.ipynb" />

`WandbModelCheckpoint` コールバックを使用すると、Keras モデル (`SavedModel` 形式) またはモデルの重みを定期的に保存し、モデルのバージョン管理のために `wandb.Artifact` として W\&B にアップロードできます。

このコールバックは [`tf.keras.callbacks.ModelCheckpoint()`](https://www.tensorflow.org/api_docs/python/tf/keras/callbacks/ModelCheckpoint) を継承しているため、親コールバックがチェックポイントの保存ロジックを処理します。

このコールバックは、次のものを保存します。

* 監視対象のメトリクスに基づいて最高のパフォーマンスを達成したモデル。
* パフォーマンスにかかわらず、各エポック終了時のモデル。
* エポック終了時、または一定数のトレーニングバッチ処理後のモデル。
* モデルの重みのみ、またはモデル全体。
* `SavedModel` 形式または `.h5` 形式のモデル。

このコールバックは `WandbMetricsLogger()` と併用してください。

```python theme={"system"}
import wandb
from wandb.integration.keras import WandbMetricsLogger, WandbModelCheckpoint

# 新しい W&B run を初期化します
with wandb.init(config={"bs": 12}) as run:

    # WandbModelCheckpoint を model.fit に渡します
    model.fit(
        X_train,
        y_train,
        validation_data=(X_test, y_test),
        callbacks=[
            WandbMetricsLogger(),
            WandbModelCheckpoint("models"),
        ],
    )
```

<h3 id="wandbmodelcheckpoint-reference">
  `WandbModelCheckpoint` リファレンス
</h3>

| パラメーター | 説明 | |
| - | - | - |
| `filepath` | (str): モデルファイルを保存するパス。 | |
| `monitor` | (str): 監視するメトリクス名。 | |
| `verbose` | (int): 詳細モード (0 または 1) 。モード 0 では何も表示せず、モード 1 ではコールバックが action を実行したときにメッセージを表示します。 | |
| `save_best_only` | (Boolean): `save_best_only=True` の場合、`monitor` 属性と `mode` 属性の定義に基づき、最新のモデル、または最良と判断されたモデルのみを保存します。 | |
| `save_weights_only` | (Boolean): True の場合、モデルの重みのみを保存します。 | |
| `mode` | (`auto`、`min`、または `max`): たとえば、`val_acc` の場合は `max`、`val_loss` の場合は `min` に設定します。 | |
| `save_freq` | ("epoch" または int): "epoch" を指定すると、コールバックは各エポックの終了後にモデルを保存します。整数を指定すると、コールバックはそのバッチ数ごとにモデルを保存します。`val_acc` や `val_loss` などの検証メトリクスはエポックの終了時にのみ利用可能なため、これらを監視する場合は `save_freq` を "epoch" に設定する必要があります。 | |
| `options` | (str): `save_weights_only` が true の場合はオプションの `tf.train.CheckpointOptions` オブジェクト、false の場合はオプションの `tf.saved_model.SaveOptions` オブジェクト。 | |
| `initial_value_threshold` | (float): 監視対象メトリクスの「最良」値の初期値 (浮動小数点数) 。 | |

<h3 id="log-checkpoints-after-n-epochs">
  `N` エポックごとにチェックポイントをログする
</h3>

デフォルト (`save_freq="epoch"`) では、コールバックはエポックごとにチェックポイントを作成し、アーティファクトとしてアップロードします。特定のバッチ数ごとにチェックポイントを作成するには、`save_freq` に整数を設定します。`N` エポックごとにチェックポイントを作成するには、`train` データローダーのカーディナリティを計算して `save_freq` に渡します。

```python theme={"system"}
WandbModelCheckpoint(
    filepath="models/",
    save_freq=int((trainloader.cardinality()*N).numpy())
)
```

<h3 id="log-checkpoints-efficiently-on-a-tpu-architecture">
  TPU アーキテクチャでチェックポイントを効率的にログする
</h3>

TPU でチェックポイントを保存する際に、`UnimplementedError: File system scheme '[local]' not implemented` というエラーメッセージが表示される場合があります。これは、モデルのディレクトリ (`filepath`) にクラウドストレージバケットのパス (`gs://bucket-name/...`) を使用する必要があり、このバケットに TPU サーバーからアクセスできる必要があるためです。一方、W\&B はチェックポイントの保存にローカルパスを使用し、その後、チェックポイントをアーティファクトとしてアップロードします。

```python theme={"system"}
checkpoint_options = tf.saved_model.SaveOptions(experimental_io_device="/job:localhost")

WandbModelCheckpoint(
    filepath="models/",
    options=checkpoint_options,
)
```

<h2 id="visualize-model-predictions-using-wandbevalcallback">
  `WandbEvalCallback` を使用してモデルの予測を可視化する
</h2>

<ColabLink url="https://colab.research.google.com/github/wandb/examples/blob/master/colabs/keras/Use_WandbEvalCallback_in_your_Keras_workflow.ipynb" />

`WandbEvalCallback()` は Keras コールバックを構築するための抽象基底クラスで、主にモデルの予測の可視化、副次的にデータセットの可視化を目的としています。

この抽象コールバックは、データセットやタスクに依存しません。使用するには、この基底 `WandbEvalCallback()` コールバッククラスを継承し、`add_ground_truth` メソッドと `add_model_prediction` メソッドを実装します。

`WandbEvalCallback()` は、次の処理を行うメソッドを提供するユーティリティクラスです。

* データおよび予測の `wandb.Table()` インスタンスを作成する。
* データおよび予測の表を `wandb.Artifact()` としてログする。
* `on_train_begin` でデータ表をログする。
* `on_epoch_end` で予測の表をログする。

次の例では、画像分類タスクに `WandbClfEvalCallback` を使用します。この例のコールバックは、検証データ (`data_table`) を W\&B にログし、推論を実行して、各エポックの終了時に予測 (`pred_table`) を W\&B にログします。

```python theme={"system"}
import wandb
from wandb.integration.keras import WandbMetricsLogger, WandbEvalCallback


# モデルの予測を可視化するコールバックを実装します
class WandbClfEvalCallback(WandbEvalCallback):
    def __init__(
        self, validation_data, data_table_columns, pred_table_columns, num_samples=100
    ):
        super().__init__(data_table_columns, pred_table_columns)

        self.x = validation_data[0]
        self.y = validation_data[1]

    def add_ground_truth(self, logs=None):
        for idx, (image, label) in enumerate(zip(self.x, self.y)):
            self.data_table.add_data(idx, wandb.Image(image), label)

    def add_model_predictions(self, epoch, logs=None):
        preds = self.model.predict(self.x, verbose=0)
        preds = tf.argmax(preds, axis=-1)

        table_idxs = self.data_table_ref.get_index()

        for idx in table_idxs:
            pred = preds[idx]
            self.pred_table.add_data(
                epoch,
                self.data_table_ref.data[idx][0],
                self.data_table_ref.data[idx][1],
                self.data_table_ref.data[idx][2],
                pred,
            )


# ...

# 新しい W&B run を初期化します
with wandb.init(config={"hyper": "parameter"}) as run:

    # Model.fit にコールバックを追加します
    model.fit(
        X_train,
        y_train,
        validation_data=(X_test, y_test),
        callbacks=[
            WandbMetricsLogger(),
            WandbClfEvalCallback(
                validation_data=(X_test, y_test),
                data_table_columns=["idx", "image", "label"],
                pred_table_columns=["epoch", "idx", "image", "label", "pred"],
            ),
        ],
    )
```

<h3 id="wandbevalcallback-reference">
  `WandbEvalCallback` リファレンス
</h3>

| パラメーター | 説明 |
| - | - |
| `data_table_columns` | (list) `data_table` の列名のリスト |
| `pred_table_columns` | (list) `pred_table` の列名のリスト |

<h3 id="memory-footprint-details">
  メモリ使用量の詳細
</h3>

W\&B は、`on_train_begin` メソッドの呼び出し時に `data_table` をログします。W\&B がこれを W\&B Artifact としてアップロードすると、この表への参照が得られます。この参照には、`data_table_ref` クラス変数を使用してアクセスできます。`data_table_ref` は 2 次元リストで、`self.data_table_ref[idx][n]` のようにインデックスを指定してアクセスできます。`idx` は行番号、`n` は列番号です。使用方法については、次の例を参照してください。

<h3 id="customize-the-callback">
  コールバックのカスタマイズ
</h3>

データと予測をログするタイミングをより細かく制御するには、デフォルトのコールバックメソッドをオーバーライドできます。`on_train_begin` または `on_epoch_end` メソッドをオーバーライドすると、より詳細に制御できます。`N` バッチ後にサンプルをログする場合は、`on_train_batch_end` メソッドを実装できます。

<Note>
  `WandbEvalCallback` を継承してモデルの予測を可視化するコールバックを実装する際に、不明な点や修正が必要な点がある場合は、[issue](https://github.com/wandb/wandb/issues) を作成してください。
</Note>

<h2 id="legacy-wandbcallback">
  レガシー `WandbCallback`
</h2>

`WandbCallback` は、従来のオールインワン型のコールバックです。新しい project では、前のセクションで説明した専用のコールバック (`WandbMetricsLogger`、`WandbModelCheckpoint`、`WandbEvalCallback`) を使用してください。W\&B ライブラリの `WandbCallback()` クラスを使用すると、`model.fit()` で追跡されるすべてのメトリクスと損失の値を保存できます。

```python theme={"system"}
import wandb
from wandb.integration.keras import WandbCallback

with wandb.init(config={"hyper": "parameter"}) as run:

    # Keras でモデルを設定するコード

    # model.fit にコールバックを渡します
    model.fit(
        X_train, y_train, validation_data=(X_test, y_test), callbacks=[WandbCallback()]
    )
```

短い動画 [Keras と W\&B を 1 分以内で使い始める](https://www.youtube.com/watch?ab_channel=Weights\&Biases\&v=4FjDIJ-vO_M)をご覧いただけます。

より詳しい動画は、[W\&B を Keras と統合する](https://www.youtube.com/watch?v=Bsudo7jbMow\&ab_channel=Weights%26Biases)をご覧ください。[Colab Jupyter ノートブック](https://colab.research.google.com/github/wandb/examples/blob/master/colabs/keras/Keras_pipeline_with_Weights_and_Biases.ipynb)も確認できます。

その他のサンプルスクリプトについては、[W\&B サンプルリポジトリ](https://github.com/wandb/examples)をご覧ください。[Fashion MNIST のサンプル](https://github.com/wandb/examples/blob/master/examples/keras/keras-cnn-fashion/train.py)と、それによって生成される [W\&B ダッシュボード](https://forge.coreweave.com/wandb/wandb/keras-fashion-mnist/runs/5z1d85qs)も含まれています。

`WandbCallback` クラスは、監視するメトリクスの指定、重みと勾配のトラッキング、`training_data` と `validation_data` に対する予測のログなど、ログする際の設定オプションをサポートしています。

詳細については、`keras.WandbCallback` のリファレンスドキュメントをご覧ください。

`WandbCallback`:

* Keras が収集したすべてのメトリクス (損失および `keras_model.compile()` に渡されたもの) の履歴データをログします。
* `monitor` 属性と `mode` 属性で定義された "最良" のトレーニングステップに関連付けられた run のサマリー メトリクスを設定します。デフォルトでは、`val_loss` が最小となるエポックです。デフォルトで、`WandbCallback` は最良の `epoch` に関連付けられたモデルを保存します。
* オプションで、勾配とパラメーターのヒストグラムをログします。
* オプションで、wandb で可視化するためにトレーニングデータと検証データを保存します。

<h3 id="wandbcallback-reference">
  `WandbCallback` リファレンス
</h3>

| 引数 | |
| - | - |
| `monitor` | (str) 監視するメトリクスの名。デフォルトは `val_loss`。 |
| `mode` | (str) `{`auto`, `min`, `max`}` のいずれかです。`min` - 監視対象の指標が最小値を更新したときにモデルを保存します `max` - 監視対象の指標が最大値を更新したときにモデルを保存します `auto` - モデルを保存するタイミングを推測します (デフォルト) 。 |
| `save_model` | True - 監視対象の値が過去のすべてのエポックを上回った場合にモデルを保存します False - モデルを保存しません |
| `save_graph` | (boolean) True の場合、モデルのグラフを wandb に保存します (デフォルトは True)。 |
| `save_weights_only` | (真偽値) True の場合、モデルの重みのみを保存します(`model.save_weights(filepath)`)。それ以外の場合、モデル全体を保存します)。 |
| `log_weights` | (boolean) True の場合、モデルの層の重みのヒストグラムを保存します。 |
| `log_gradients` | (boolean) True の場合、トレーニングの勾配のヒストグラムをログします |
| `training_data` | (タプル) `model.fit` に渡すものと同じ形式 `(X,y)` です。勾配の計算に必要です - `log_gradients` が `True` の場合は必須です。 |
| `validation_data` | (タプル) `model.fit` に渡すものと同じ形式 `(X,y)` です。wandb で可視化するためのデータセットです。このフィールドを設定すると、wandb はエポックごとに少数の予測を行い、後で可視化できるように結果を保存します。 |
| `generator` | (ジェネレーター) wandb が可視化する検証データを返すジェネレーターです。このジェネレーターはタプル `(X,y)` を返す必要があります。wandb で特定のデータ例を可視化するには、`validate_data` または generator のいずれかを設定する必要があります。 |
| `validation_steps` | (int) `validation_data` がジェネレーターの場合、検証セット全体に対してジェネレーターを実行するステップ数。 |
| `labels` | (list) wandb でデータを可視化する場合、このラベルのリストは、数値の出力を理解可能な string に変換します。複数のクラスを持つ分類器を構築している場合です。二値分類器の場合、2つのラベルのリスト \[`label for false`, `label for true`] を渡すことができます。`validate_data` と `generator` の両方が false の場合、これは何も行いません。 |
| `predictions` | (int) 各エポックで可視化のために生成する予測の数です。最大は 100 です。 |
| `input_type` | (string) モデルの入力のタイプで、可視化を支援します。次のいずれかになります: (`image`, `images`, `segmentation_mask`)。 |
| `output_type` | (string) 可視化に使用するモデル出力のタイプ。次のいずれかを指定できます: (`image`, `images`, `segmentation_mask`)。 |
| `log_evaluation` | (boolean) True の場合、各エポックにおける検証データとモデルの予測を含む Table を保存します。詳細については、`validation_indexes`、`validation_row_processor`、`output_row_processor` を参照してください。 |
| `class_colors` | (\[float, float, float]) 入力または出力がセグメンテーションマスクの場合、各クラスの rgb タプル (範囲 0-1) を含む配列です。 |
| `log_batch_frequency` | (整数) None の場合、コールバックはエポックごとにログします。整数に設定されている場合、コールバックは `log_batch_frequency` バッチごとにトレーニングメトリクスをログします。 |
| `log_best_prefix` | (string) None の場合、追加のサマリー メトリクスは保存しません。文字列を設定すると、監視対象のメトリクスとエポックに接頭辞を付け、結果をサマリー メトリクスとして保存します。 |
| `validation_indexes` | (\[wandb.data\_types.\_TableLinkMixin]) 各検証例に関連付けるインデックスキーの順序付きリスト。`log_evaluation` が True で `validation_indexes` を指定した場合、検証データの表を作成しません。代わりに、各予測を `TableLinkMixin` で表される行に関連付けます。行キーのリストを取得するには、`Table.get_index() ` を使用します。 |
| `validation_row_processor` | (Callable) 検証データに適用する関数で、一般にデータの可視化に使用します。この関数は `ndx` (int) と `row` (dict) を受け取ります。モデルの入力が単一の場合、`row["input"]` にはその行の入力データが含まれます。それ以外の場合は、入力スロット名が含まれます。当てはめに使用する関数が単一のターゲットを受け取る場合、`row["target"]` にはその行のターゲットデータが含まれます。それ以外の場合は、出力スロット名が含まれます。たとえば、入力データが単一の配列の場合、データを画像として可視化するには、処理関数として `lambda ndx, row: {"img": wandb.Image(row["input"])}` を指定します。`log_evaluation` が False の場合、または `validation_indexes` が存在する場合は無視されます。 |
| `output_row_processor` | (Callable) `validation_row_processor` と同じですが、モデル出力に適用されます。`row["output"]` にはモデル出力の結果が含まれます。 |
| `infer_missing_processors` | (ブール値) `validation_row_processor` と `output_row_processor` が指定されていない場合に、それらを推定するかどうかを決定します。デフォルトは True です。`labels` を指定すると、W\&B は必要に応じて分類タイプの処理関数の推定を試みます。 |
| `log_evaluation_frequency` | (int) 評価結果をログする頻度を指定します。デフォルトは `0` で、トレーニング終了時にのみログします。1 に設定すると毎エポック、2 に設定すると 2 エポックごとにログし、以降も同様です。`log_evaluation` が False の場合は効果がありません。 |

<h2 id="frequently-asked-questions">
  よくある質問
</h2>

<h3 id="use-keras-multiprocessing-with-wandb">
  wandb と Keras のマルチプロセッシングを使用する
</h3>

`use_multiprocessing=True` を設定すると、次のエラーが発生することがあります:

```python theme={"system"}
Error("You must call wandb.init() before wandb.config.batch_size")
```

回避するには、次の手順を実行します。

1. `Sequence` クラスの構築時に、`wandb.init(group='...')` を追加します。
2. `main` では、必ず `if __name__ == "__main__":` を使用し、その中にスクリプトの残りのロジックを配置します。
