> ## Documentation Index > Fetch the complete documentation index at: https://docs.coreweave.com/llms.txt > Use this file to discover all available pages before exploring further. # Hugging Face Transformers > W&B を Hugging Face Transformers Trainer と併用して、実験管理、モデル チェックポイントの保存、データセットのバージョン管理を行います。 export const ColabLink = ({url}) => Try in Colab ; [Hugging Face Transformers](https://huggingface.co/docs/transformers/index) ライブラリは、BERT のような NLP モデルや、混合精度や勾配チェックポイントなどのトレーニング手法を簡単に使用できるようにします。[W\&B インテグレーション](https://huggingface.co/transformers/main_classes/callback.html#transformers.integrations.WandbCallback) は、集中型ダッシュボードに実験管理とモデルバージョン管理を追加します。 このガイドでは、Hugging Face の `Trainer` を W\&B に接続する方法を説明します。これにより、トレーニング run はメトリクス、モデル チェックポイント、評価出力を集中型ダッシュボードに自動的にログします。最終的に、run を比較したり、W\&B Artifacts からモデル チェックポイントを保存および再読み込みしたり、独自のワークフロー用にログをカスタマイズしたりできるようになります。このガイドは、Hugging Face Transformers の `Trainer` を使用したモデルのトレーニングにすでに慣れていることを前提としています。

クイックスタート

```python theme={"system"} os.environ["WANDB_PROJECT"] = "" # W&B プロジェクト名を設定します os.environ["WANDB_LOG_MODEL"] = "checkpoint" # すべてのモデル チェックポイントをログします from transformers import TrainingArguments, Trainer args = TrainingArguments(..., report_to="wandb") # W&B ロギングを有効にします trainer = Trainer(..., args=args) ``` Hugging Face ダッシュボード すぐに動作するコードを試したい場合は、こちらの [Google Colab](https://wandb.me/hf) をご覧ください。

はじめに: 実験をトラッキングする

このセクションでは、W\&B で認証し、クライアントライブラリをインストールし、プロジェクト名を設定し、`Trainer` でログする機能を有効にして、最初のトレーニング run を W\&B ダッシュボードに表示する方法を説明します。

登録してAPIキーを作成する

APIキーは、マシンを W\&B に対して認証します。ユーザープロフィールからAPIキーを発行できます。 より簡単な方法として、[User Settings](https://forge.coreweave.com/settings) に移動して APIキーを作成することもできます。作成した APIキーはすぐにコピーし、パスワードマネージャーなどの安全な場所に保存してください。 1. 右上のユーザープロフィールアイコンをクリックします。 2. **User Settings** を選択し、**APIキー**セクションまでスクロールします。

`wandb` ライブラリのインストールとログイン

`wandb` ライブラリをローカルにインストールしてログインするには、次の手順に従います。 1. `WANDB_API_KEY` [環境変数](/ja/products/wandb/track/environment-variables)に APIキーを設定します。`<>` で囲まれた値を自分の値に置き換えてください。 ```bash theme={"system"} export WANDB_API_KEY= ``` 2. `wandb` ライブラリをインストールしてログインします。 ```bash theme={"system"} pip install wandb wandb login ``` ```bash theme={"system"} pip install wandb ``` ```python theme={"system"} import wandb wandb.login() ``` ```notebook theme={"system"} !pip install wandb import wandb wandb.login() ``` W\&B を初めて使用する場合は、[クイックスタート](/ja/products/wandb/quickstart)をご覧ください。

プロジェクト名を設定する

W\&B プロジェクトには、関連する run からログされたすべてのチャート、データ、モデルが保存されます。プロジェクト名を設定すると、作業を整理し、1 つの project に関するすべての情報を一か所にまとめられます。 project に run を追加するには、`WANDB_PROJECT` 環境変数にプロジェクト名を設定します。`WandbCallback` は、この環境変数からプロジェクト名を取得し、run の設定時に使用します。 ```bash theme={"system"} WANDB_PROJECT=amazon_sentiment_analysis ``` ```python theme={"system"} import os os.environ["WANDB_PROJECT"]="amazon_sentiment_analysis" ``` ```notebook theme={"system"} %env WANDB_PROJECT=amazon_sentiment_analysis ``` 必ず `Trainer` を初期化する\_前に\_プロジェクト名を設定してください。 プロジェクト名を指定しない場合、デフォルトのプロジェクト名は `huggingface` になります。

トレーニング run を W\&B にログする

コード内またはコマンドラインから `Trainer` のトレーニング引数を定義する際に、`report_to` を `"wandb"` に設定して、W\&B へのログを有効にします。この設定がない場合、`Trainer` は W\&B にデータを送信しません。 `TrainingArguments` の `logging_steps` 引数は、トレーニング中にトレーニングメトリクスを W\&B に送信する頻度を制御します。`run_name` 引数を使用して、W\&B のトレーニング run に名を付けることもできます。 これで完了です。モデルはトレーニング中に、損失、評価メトリクス、モデルのトポロジ、勾配を W\&B にログするようになります。 ```bash theme={"system"} python run_glue.py \ # Python スクリプトを実行します --report_to wandb \ # W&B へのログを有効にします --run_name bert-base-high-lr \ # W&B run の名（省略可能） # その他のコマンドライン引数をここに指定します ``` ```python theme={"system"} from transformers import TrainingArguments, Trainer args = TrainingArguments( # その他の args と kwargs をここに指定します report_to="wandb", # W&B へのログを有効にします run_name="bert-base-high-lr", # W&B run の名（省略可能） logging_steps=1, # W&B にログする頻度 ) trainer = Trainer( # その他の args と kwargs をここに指定します args=args, # トレーニング引数 ) trainer.train() # トレーニングと W&B へのログを開始します ``` TensorFlow を使用していますか？PyTorch の `Trainer` を TensorFlow の `TFTrainer` に置き換えてください。

モデル チェックポイントの保存を有効にする

メトリクスをログするだけでなく、トレーニング済みモデルの重み自体を W\&B に保存して、バージョン管理、ダウンロード、チーム内での共有ができます。 [Artifacts](/ja/products/wandb/artifacts) を使用すると、モデルとデータセットを最大 100 GB まで無料で保存し、W\&B [Registry](/ja/products/registry) で使用できます。Registry では、モデルを登録して調査や評価を行い、ステージングの準備をしたり、本番環境にデプロイしたりできます。 Hugging Face のモデル チェックポイントを Artifacts にログするには、`WANDB_LOG_MODEL` 環境変数を次のいずれか *1 つ* に設定します。 * **`checkpoint`**: [`TrainingArguments`](https://huggingface.co/docs/transformers/main/en/main_classes/trainer#transformers.TrainingArguments) の `args.save_steps` ごとにチェックポイントをアップロードします。 * **`end`**: `load_best_model_at_end` も設定されている場合、トレーニングの終了時にモデルをアップロードします。 * **`false`**: モデルをアップロードしません。 ```bash theme={"system"} WANDB_LOG_MODEL="checkpoint" ``` ```python theme={"system"} import os os.environ["WANDB_LOG_MODEL"] = "checkpoint" ``` ```notebook theme={"system"} %env WANDB_LOG_MODEL="checkpoint" ``` 以降に初期化するすべての Transformers `Trainer` は、モデルを W\&B プロジェクトにアップロードします。ログしたモデル チェックポイントは [Artifacts](/ja/products/wandb/artifacts) UI で確認でき、モデルの完全なリネージも含まれます。[Artifacts UI のモデル チェックポイントの例](https://forge.coreweave.com/wandb/wandb/arttest/artifacts/model/iv3_trained/5334ab69740f9dda4fed/lineage?_gl=1*yyql5q*_ga*MTQxOTYyNzExOS4xNjg0NDYyNzk1*_ga_JH1SJHJQXJ*MTY5MjMwNzI2Mi4yNjkuMS4xNjkyMzA5NjM2LjM3LjAuMA..)をご覧ください。 デフォルトでは、`WANDB_LOG_MODEL` が `end` に設定されている場合、モデルは W\&B Artifacts に `model-{run_id}` として保存され、`WANDB_LOG_MODEL` が `checkpoint` に設定されている場合は `checkpoint-{run_id}` として保存されます。 ただし、`TrainingArguments` に [`run_name`](https://huggingface.co/docs/transformers/main/en/main_classes/trainer#transformers.TrainingArguments.run_name) を渡すと、モデルは `model-{run_name}` または `checkpoint-{run_name}` として保存されます。

Registry

チェックポイントを Artifacts にログしたら、[Registry](/ja/products/registry) を使用して、ベストなモデル チェックポイントを登録し、チーム全体で一元管理できます。Registry では、タスクごとにベストなモデルを整理したり、モデルのライフサイクルを管理したり、ML ライフサイクル全体をトラッキングして監査したり、ダウンストリームの action を[オートメーション](/ja/products/wandb/automations)したりできます。 モデル アーティファクトを link するには、[Registry](/ja/products/registry) を参照してください。

トレーニング中の評価出力を可視化する

モデルがどのようにトレーニングされているかを理解するには、トレーニング中や評価中にモデル出力を可視化することが欠かせない場合が多くあります。損失曲線と併せて具体的な予測を確認することで、集計メトリクスだけでは見落としがちな品質の問題を発見しやすくなります。 Transformers Trainer のコールバックシステムを使用すると、より有用なデータを W\&B 表にログできます。たとえば、モデルのテキスト生成出力やその他の予測などです。 次のような W\&B 表に、トレーニング中の評価出力をログする方法の詳しいガイドについては、[トレーニング中に評価サンプルをログして表示する](#log-and-view-evaluation-samples-during-training)を参照してください。 W&B 表に評価出力が表示されている様子

W\&B run を終了する (ノートブックのみ)

トレーニングが Python スクリプトにカプセル化されている場合、W\&B run はスクリプトが終了したときに終了します。 Jupyter または Google Colab ノートブックを使用している場合は、`run.finish()` を呼び出してトレーニングが完了したことを通知します。 ```python theme={"system"} run = wandb.init() trainer.train() # トレーニングを開始し、W&B にログする # トレーニング後の分析、テスト、その他のログするコード run.finish() ```

結果を可視化する

トレーニング結果をログしたら、[W\&B ダッシュボード](/ja/products/wandb/track/workspaces) で探索できます。run を比較したり、検出結果をズームインしたり、インタラクティブな可視化でデータを探索できます。 この時点で、動作するインテグレーションが完成しています。`Trainer` はメトリクスを指定した project にログし、オプションでチェックポイントを Artifacts に保存し、評価出力を W\&B ダッシュボードに表示します。

高度な機能とよくある質問

以下のセクションでは、最良のモデルの保存、チェックポイントからのトレーニングの再開、ログするためのコールバックのカスタマイズ、環境変数による W\&B の動作の設定など、一般的な追加タスクについて説明します。

最良のモデルを保存する

`load_best_model_at_end=True` を指定した `TrainingArguments` を `Trainer` に渡すと、W\&B は最も性能の高いモデル チェックポイントを Artifacts に保存します。 モデル チェックポイントをアーティファクトとして保存すると、[Registry](/ja/products/registry) にプロモートできます。Registry では、次の操作ができます。 * 最良のモデルのバージョンを ML タスク別に整理します。 * モデルを一元管理し、チームと共有します。 * モデルを本番向けにステージングするか、追加の評価に備えてブックマークします。 * 後続の CI/CD プロセスをトリガーします。

保存済みのモデルをロードする

`WANDB_LOG_MODEL` を使用してモデルを W\&B Artifacts に保存した場合は、モデルの重みをダウンロードして、追加のトレーニングや推論に使用できます。ダウンロードした重みは、以前使用したものと同じ Hugging Face アーキテクチャにロードしてください。 ```python theme={"system"} # 新しい run を作成する with wandb.init(project="amazon_sentiment_analysis") as run: # アーティファクトの名とバージョンを渡す my_model_name = "model-bert-base-high-lr:latest" my_model_artifact = run.use_artifact(my_model_name) # モデルの重みをフォルダにダウンロードし、パスを返す model_dir = my_model_artifact.download() # そのフォルダから Hugging Face モデルを読み込む # 同じモデルクラスを使用する model = AutoModelForSequenceClassification.from_pretrained( model_dir, num_labels=num_labels ) # 追加のトレーニングを行うか、推論を実行する ```

チェックポイントからトレーニングを再開する

`WANDB_LOG_MODEL='checkpoint'` を設定している場合は、`TrainingArguments` の `model_name_or_path` 引数に `model_dir` を指定し、`Trainer` に `resume_from_checkpoint=True` を渡すことで、トレーニングを再開できます。 ```python theme={"system"} last_run_id = "xxxxxxxx" # wandb ワークスペースから run_id を取得します # run_id を使用して wandb の run を再開します with wandb.init( project=os.environ["WANDB_PROJECT"], id=last_run_id, resume="must", ) as run: # アーティファクトを run に関連付けます my_checkpoint_name = f"checkpoint-{last_run_id}:latest" my_checkpoint_artifact = run.use_artifact(my_checkpoint_name) # チェックポイントをフォルダーにダウンロードし、パスを返します checkpoint_dir = my_checkpoint_artifact.download() # モデルとトレーナーを再初期化します model = AutoModelForSequenceClassification.from_pretrained( "", num_labels=num_labels ) # ここでトレーニングの引数を指定します。 training_args = TrainingArguments() trainer = Trainer(model=model, args=training_args) # チェックポイントからトレーニングを再開するには、必ずチェックポイントのディレクトリを使用してください trainer.train(resume_from_checkpoint=checkpoint_dir) ```

トレーニング中に評価サンプルをログして表示する

Transformers ライブラリの [`WandbCallback`](https://huggingface.co/transformers/main_classes/callback.html#transformers.integrations.WandbCallback) は、Transformers の `Trainer` を通じて W\&B にログする処理を担います。このコールバックをカスタマイズして、モデルの予測、混同行列、その他のカスタムデータをログできます。そのためには、`WandbCallback` をサブクラス化し、Trainer クラスの追加メソッドを使用する機能を追加します。 以下では、この新しいコールバックを Hugging Face Trainer に追加するための一般的なパターンを示し、その後に評価出力を W\&B 表にログするための完全なコード例を示します。 ```python theme={"system"} # 通常どおり Trainer をインスタンス化します trainer = Trainer() # Trainer オブジェクトを渡して、ログ用の新しいコールバックをインスタンス化します evals_callback = WandbEvalsCallback(trainer, tokenizer, ...) # コールバックを Trainer に追加します trainer.add_callback(evals_callback) # 通常どおり Trainer でトレーニングを開始します trainer.train() ```

トレーニング中に評価サンプルを表示する

次のセクションでは、`WandbCallback` をカスタマイズして、トレーニング中にモデルの予測を実行し、評価サンプルを W\&B 表にログする方法を説明します。これは、Trainer コールバックの `on_evaluate` メソッドを使用して、`eval_steps` ごとに実行されます。 `decode_predictions` 関数は、トークナイザーを使用してモデル出力から予測とラベルをデコードします。 次に、コードは予測とラベルから pandas データフレームを作成し、データフレームに `epoch` 列を追加します。 最後に、コードはデータフレームから `wandb.Table` を作成し、W\&B にログします。`freq` エポックごとに予測をログすることで、ログする頻度を制御できます。 通常の `WandbCallback` とは異なり、このカスタムコールバックは、`Trainer` の初期化中ではなく、`Trainer` がインスタンス化された**後**にトレーナーに追加する必要があります。これは、初期化中に `Trainer` インスタンスがコールバックに渡されるためです。 ```python theme={"system"} from transformers.integrations import WandbCallback import pandas as pd def decode_predictions(tokenizer, predictions): labels = tokenizer.batch_decode(predictions.label_ids) logits = predictions.predictions.argmax(axis=-1) prediction_text = tokenizer.batch_decode(logits) return {"labels": labels, "predictions": prediction_text} class WandbPredictionProgressCallback(WandbCallback): """Custom WandbCallback to log model predictions during training. This callback logs model predictions and labels to a wandb.Table at each logging step during training. It allows to visualize the model predictions as the training progresses. Attributes: trainer (Trainer): The Hugging Face Trainer instance. tokenizer (AutoTokenizer): The tokenizer associated with the model. sample_dataset (Dataset): A subset of the validation dataset for generating predictions. num_samples (int, optional): Number of samples to select from the validation dataset for generating predictions. Defaults to 100. freq (int, optional): Frequency of logging. Defaults to 2. """ def __init__(self, trainer, tokenizer, val_dataset, num_samples=100, freq=2): """Initializes the WandbPredictionProgressCallback instance. Args: trainer (Trainer): The Hugging Face Trainer instance. tokenizer (AutoTokenizer): The tokenizer associated with the model. val_dataset (Dataset): The validation dataset. num_samples (int, optional): Number of samples to select from the validation dataset for generating predictions. Defaults to 100. freq (int, optional): Frequency of logging. Defaults to 2. """ super().__init__() self.trainer = trainer self.tokenizer = tokenizer self.sample_dataset = val_dataset.select(range(num_samples)) self.freq = freq def on_evaluate(self, args, state, control, **kwargs): super().on_evaluate(args, state, control, **kwargs) # `freq` エポックごとに予測をログすることで # ログする頻度を制御します if state.epoch % self.freq == 0: # 予測を生成します predictions = self.trainer.predict(self.sample_dataset) # 予測とラベルをデコードします predictions = decode_predictions(self.tokenizer, predictions) # 予測を wandb.Table に追加します predictions_df = pd.DataFrame(predictions) predictions_df["epoch"] = state.epoch records_table = self._wandb.Table(dataframe=predictions_df) # 表を wandb にログします self._wandb.log({"sample_predictions": records_table}) # まず、Trainer をインスタンス化します trainer = Trainer( model=model, args=training_args, train_dataset=lm_datasets["train"], eval_dataset=lm_datasets["validation"], ) # WandbPredictionProgressCallback をインスタンス化します progress_callback = WandbPredictionProgressCallback( trainer=trainer, tokenizer=tokenizer, val_dataset=lm_dataset["validation"], num_samples=10, freq=2, ) # コールバックをトレーナーに追加します trainer.add_callback(progress_callback) ``` より詳しい例については、こちらの [Colab](https://colab.research.google.com/github/wandb/examples/blob/master/colabs/huggingface/Custom_Progress_Callback.ipynb) を参照してください。

その他の W\&B 設定

環境変数を設定すると、`Trainer` でログする内容をさらに細かく設定できます。W\&B の環境変数の一覧については、[環境変数リファレンス](/ja/products/wandb/platform/hosting/env-vars)を参照してください。 | 環境変数 | 使用方法 | | - | - | | `WANDB_PROJECT` | project の名前を指定します (デフォルトは `huggingface`) | | `WANDB_LOG_MODEL` |

モデル チェックポイントを W\&B アーティファクト としてログします (デフォルトは `false`)

  • false (デフォルト): モデル チェックポイントを保存しません
  • checkpoint: `args.save_steps` (Trainer の `TrainingArguments` で設定) ごとにチェックポイントをアップロードします。
  • end: トレーニング終了時に最終的なモデル チェックポイントをアップロードします。
| | `WANDB_WATCH` |

モデルの勾配とパラメーターのどちらをログするか、またはどちらもログしないかを設定します。

  • false (デフォルト): 勾配もパラメーターもログしません
  • gradients: 勾配のヒストグラムをログします
  • all: 勾配とパラメーターのヒストグラムをログします
| | `WANDB_DISABLED` | `true` に設定すると、ログを完全に無効にします (デフォルトは `false`) | | `WANDB_QUIET` | `true` に設定すると、標準出力にログするメッセージを重要なものだけに制限します (デフォルトは `false`) | | `WANDB_SILENT` | `true` に設定すると、`wandb` による出力を非表示にします (デフォルトは `false`) | ```bash theme={"system"} WANDB_WATCH=all WANDB_SILENT=true ``` ```notebook theme={"system"} %env WANDB_WATCH=all %env WANDB_SILENT=true ```

`wandb.init()` をカスタマイズする

`Trainer` が使用する `WandbCallback` は、`Trainer` の初期化時に `wandb.init()` を内部で呼び出します。あるいは、`Trainer` が初期化される前に `wandb.init()` を呼び出すことで、run を手動で設定することもできます。これにより、W\&B run 設定に対してフルコントロールが得られます。 以下は、`init` に渡すことができる例です。`wandb.init()` の詳細については、[`wandb.init()` リファレンス](/ja/products/wandb/ref/python/functions/init) を参照してください。 ```python theme={"system"} wandb.init( project="amazon_sentiment_analysis", name="bert-base-high-lr", tags=["baseline", "high-lr"], group="bert", ) ```

追加リソース

TransformersとW\&Bに関連する記事を6つ紹介します。さらに詳しく知りたい方は、以下をご覧ください。
Hugging Face Transformersのハイパーパラメーター最適化 * Hugging Face Transformersのハイパーパラメーター最適化について、グリッドサーチ、ベイズ最適化、Population Based Trainingの3つの手法を比較します。 * Hugging Face transformersの標準的なuncased BERTモデルを、SuperGLUEベンチマークのRTEデータセットでファインチューニングして使用します。 * 比較の結果、Hugging Face transformerモデルのハイパーパラメーター最適化には、Population Based Trainingが最も効果的であることが示されています。 詳しくは、[Hyperparameter Optimization for Hugging Face Transformers report](https://forge.coreweave.com/wandb/amogkam/transformers/reports/Hyperparameter-Optimization-for-Hugging-Face-Transformers--VmlldzoyMTc2ODI)をご覧ください。
Hugging Tweets: ツイートを生成するモデルをトレーニングする * この記事では、事前トレーニング済みのGPT2 Hugging Face Transformerモデルを、誰かのツイートを使って5分でファインチューニングする方法を紹介します。 * このモデルでは、ツイートのダウンロード、データセットの最適化、初期実験、ユーザー間の損失の比較、モデルのファインチューニングからなるパイプラインを使用します。 詳しくは、[HuggingTweets report](https://forge.coreweave.com/wandb/wandb/huggingtweets/reports/HuggingTweets-Train-a-Model-to-Generate-Tweets--VmlldzoxMTY5MjI)をご覧ください。
Hugging Face BERTとW\&Bによる文分類 * この記事では、自然言語処理における近年の進歩を活用して文分類器を構築します。特に、NLPへの転移学習の応用に焦点を当てています。 * 単一文の分類には、The Corpus of Linguistic Acceptability (CoLA) データセットを使用します。2018年5月に初めて公開された、文法的に正しいかどうかのラベルが付いた文のデータセットです。 * GoogleのBERTを使用して、さまざまなNLPタスクに対応する高性能なモデルを少ない労力で作成します。 詳しくは、[Sentence Classification With Hugging Face BERT and W\&B report](https://forge.coreweave.com/wandb/cayush/bert-finetuning/reports/Sentence-Classification-With-Huggingface-BERT-and-W-B--Vmlldzo4MDMwNA)をご覧ください。
Hugging Faceのモデル性能をトラッキングするためのステップバイステップガイド * W\&BとHugging Face transformersを使用して、GLUEベンチマークでDistilBERTをトレーニングします。DistilBERTは、BERTより40%小さく、BERTの精度の97%を維持するTransformerです。 * GLUEベンチマークは、NLPモデルのトレーニングに使用する9つのデータセットとタスクからなるコレクションです。 詳しくは、[Tracking Hugging Face Model Performance report](https://forge.coreweave.com/wandb/jxmorris12/huggingface-demo/reports/A-Step-by-Step-Guide-to-Tracking-HuggingFace-Model-Performance--VmlldzoxMDE2MTU)をご覧ください。
HuggingFaceにおけるEarly Stoppingのサンプル * PyTorchまたはTensorFlowの機能を使い、Early Stoppingによる正則化を適用してHugging Face Transformerをファインチューニングできます。 * `tf.keras.callbacks.EarlyStopping`コールバックを使用すると、TensorFlowでEarly Stoppingを簡単に利用できます。 * PyTorchにはすぐに使えるEarly Stoppingの仕組みはありませんが、動作するEarly Stopping用のフックがGitHub Gistで公開されています。 詳しくは、[Early Stopping in Hugging Face report](https://forge.coreweave.com/wandb/ayush-thakur/huggingface/reports/Early-Stopping-in-HuggingFace-Examples--Vmlldzo0MzE2MTM)をご覧ください。
カスタムデータセットでHugging Face Transformersをファインチューニングする方法 カスタムのIMDBデータセットを使用して、感情分析 (二値分類) 向けにDistilBERT transformerをファインチューニングします。 詳しくは、[Fine-Tune Hugging Face Transformers on a Custom Dataset report](https://forge.coreweave.com/wandb/ayush-thakur/huggingface/reports/How-to-Fine-Tune-HuggingFace-Transformers-on-a-Custom-Dataset--Vmlldzo0MzQ2MDc)をご覧ください。

ヘルプを得る、または機能をリクエストする

Hugging Face の W\&B インテグレーションに関する問題、質問、機能のリクエストがある場合は、[Hugging Face フォーラムのこちらのスレッド](https://discuss.huggingface.co/t/logging-experiment-tracking-with-w-b/498)に投稿するか、Hugging Face の [Transformers GitHub repo](https://github.com/huggingface/transformers)で issue を作成してください。