Skip to main content
Serverless SFT を使用すると、厳選した入力と出力のサンプルを使った教師あり学習で LLM をファインチューニングできます。Serverless SFT は、ベースモデルをタスクに特化させる低ランクアダプター (LoRA アダプター) をトレーニングし、そのアダプターを Weights & Biases アカウントにアーティファクトとして保存します。さらに、すべてのチェックポイントを Serverless Inference でホストします。Serverless SFT は現在パブリックプレビュー段階です。 Serverless SFT は、OpenPipe の ART フレームワーク経由で実行するか、Serverless Training API を直接呼び出して実行します。

​
前提条件

開始する前に、以下が揃っていることを確認してください。
  • Forge アカウント。 お持ちでない場合は、サインアップしてください。
  • APIキー。 Forge でプロフィールアイコンをクリックし、Settings を選択して、Create new API key をクリックします。キーは再表示できないため、表示されたらすぐにコピーしてください。このドキュメントのサンプルでは、WANDB_API_KEY 環境変数からキーを読み取ります。ART でのキーの設定場所については、ART クイックスタートを参照してください。
  • Weights & Biases の project。 トレーニングメトリクスの記録と、トレーニング済みアダプターの保存に使用します。Projects を参照してください。
  • データセット。 モデルに学習させたい動作を示す、入力と出力の例で構成します。想定される形式については、ART Serverless SFT のドキュメントを参照してください。
  • ART フレームワーク (API を直接呼び出さずに ART を使用する場合) 。ART クイックスタートのインストール手順に従ってください。
また、利用に関する情報と制限でコストと制約を確認し、利用可能なモデルからベースモデルを選択してください。

​
Serverless SFT を使用するタイミング

Serverless SFT は、目的とする動作の例がすでにある場合、またはそうした例を作成できる場合に適しています。
  • 蒸留: より大規模で高性能なモデルの出力でトレーニングすることで、その知識をより小型で高速なモデルに移転します。
  • 出力のスタイルと形式の学習: 特定の応答形式、トーン、構造に従うようにモデルをトレーニングします。
  • RL 前のウォームアップ: Serverless RL で改善する前に、教師ありの例をモデルに与えます。
結果の良し悪しは判断できても、理想的な回答を事前に用意できない場合は、Serverless RL を使用してください。

​
モデルをトレーニングする

ART は Serverless Training API をラップし、データセット、トレーニング run、チェックポイントを自動で管理します。初めて使用する場合は、この方法をおすすめします。ART Serverless SFT のドキュメントに従ってデータセットを準備し、トレーニング ジョブを開始してください。

​
トレーニング後

トレーニングしたチェックポイントはすべて自動的にホストされます。チェックポイントに推論リクエストを送信するには、トレーニング済みモデルを使用するの説明に従って、チーム、project、モデル名、トレーニングステップからモデルのエンドポイントを構築します。Serverless SFT と Serverless RL のどちらでトレーニングしたモデルにも、同じエンドポイント形式が適用されます。 ストレージを節約するには、不要になったチェックポイントを削除してください。詳しくは、利用に関する情報と制限を参照してください。
最終更新日 2026年9月30日