> ## Documentation Index
> Fetch the complete documentation index at: https://docs.coreweave.com/llms.txt
> Use this file to discover all available pages before exploring further.

# カスタムランタイムを追加する

> OpenAI 互換の推論エンドポイントをカスタムランタイムとして Weave プロジェクトに接続し、UI または Python および TypeScript SDK から管理します。

カスタムランタイムを登録すると、OpenAI 互換の推論エンドポイントを W\&B Weave プロジェクトに接続できます。登録後は、エンドポイントのモデルが Weave 全体のモデルセレクターに表示されます。これにより、インテグレーションコードを書かなくても、自分やチームのメンバーが プレイグラウンド、Evaluation プレイグラウンド、LLM-as-a-judge のワークフローでそれらのモデルを使用できるようになります。

カスタムランタイムを使用すると、次のようなものを接続できます。

* チームが OpenAI 互換 API で提供しているエージェントやモデルのプロトタイプ
* セルフホストまたはローカルのモデル (Ollama や vLLM で提供しているモデルなど)
* Weave が標準でサポートしていないプロバイダーやモデルバージョン

カスタムランタイムは、Weights & Biases の UI から管理することも、Python および TypeScript SDK を使用してプログラムで管理することもできます。SDK による方法は CI/CD での利用を想定して設計されています。登録は宣言的かつ冪等であるため、パイプラインでデプロイのたびにランタイムを再登録しても、Weave は常に指定した設定の状態に収束します。

<h2 id="where-you-can-use-custom-runtimes">
  カスタムランタイムを使用できる場所
</h2>

登録済みのカスタムランタイムのモデルは、次の場所にあるモデルセレクターに表示されます。

* [プレイグラウンド](/ja/products/wandb/weave/guides/tools/playground): エンドポイントとインタラクティブにチャットできます。
* [Evaluation Playground](/ja/products/wandb/weave/guides/tools/evaluation_playground): エンドポイントを評価し、他のモデルと比較できます。
* [シグナル](/ja/products/wandb/weave/guides/evaluation/monitors): 受信トレースをスコアリングする judge モデルとしてエンドポイントを使用できます。
* Scorer の反復処理と Agent Signals のモデルセレクター。
* Weave completions API: `completions/create` エンドポイントにモデル ID `custom::<runtime-name>::<runtime-id>` を渡すと、エンドポイントに対してトレース付きの completion をプログラムから実行できます。詳しくは [サービス API リファレンス](/ja/products/wandb/weave/reference/service-api) を参照してください。

<h2 id="add-a-custom-runtime">
  カスタムランタイムを追加する
</h2>

コードまたは Weights & Biases の UI を使用して、project にカスタムランタイムを追加できます。カスタムランタイムを追加するには、ランタイムに関する次の情報が必要です。

| フィールド | 説明 |
| - | - |
| Name | project 内でランタイムを識別する名前です。モデルセレクターではグループ名として表示されます。 |
| Base URL | Weave が補完リクエストを送信する、OpenAI 互換のエンドポイントです。W\&B のサーバーからアクセスできる必要があります。 |
| Runtime IDs | エンドポイントが提供する 1 つ以上のモデル ID です。各 ID は選択可能なモデルとして表示されます。 |
| Max tokens | モデルが 1 回の応答で生成できる最大トークン数です。ランタイム ID ごとに設定します。デフォルトは 4096 です。 |
| API key secret (Optional) | エンドポイントの APIキーを格納している[チームシークレット](/ja/products/wandb/platform/secrets)の名前です。 |
| Headers (Optional) | エンドポイントへのすべてのリクエストで送信されるカスタム HTTP ヘッダーです。 |

<h3 id="add-a-custom-runtime-using-code">
  コードを使用してカスタムランタイムを追加する
</h3>

前のセクションで確認したランタイムの情報をもとに、次の登録リクエストの該当フィールドを更新してから実行し、project 内にカスタムランタイムを作成または更新します。プログラムによる登録には、`weave` Python パッケージのバージョン 0.53.4 以降、または `weave` npm パッケージのバージョン 0.16.5 以降が必要です。

<Tabs>
  <Tab title="Python">
    ```python theme={"system"}
    import weave

    client = weave.init("[YOUR-TEAM-NAME]/[YOUR-PROJECT-NAME]")

    client.register_custom_runtime(
        name="support-agent",
        base_url="https://agent.example/v1",
        api_key_secret="AGENT_API_KEY",
        headers={"X-Tenant-ID": "customer-1"},
        runtime_ids=[
            "support-v12",
            weave.CustomRuntimeID(id="support-canary", max_tokens=8192),
        ],
    )
    ```
  </Tab>

  <Tab title="TypeScript">
    ```typescript theme={"system"}
    import * as weave from 'weave';

    const client = await weave.init('[YOUR-TEAM-NAME]/[YOUR-PROJECT-NAME]');

    await client.registerCustomRuntime({
      name: 'support-agent',
      baseUrl: 'https://agent.example/v1',
      apiKeySecret: 'AGENT_API_KEY',
      headers: {'X-Tenant-ID': 'customer-1'},
      runtimeIds: ['support-v12', {id: 'support-canary', maxTokens: 8192}],
    });
    ```
  </Tab>
</Tabs>

追加したランタイムのランタイム ID は、`custom::<runtime-name>::<runtime-id>` の形式で指定します。呼び出しが成功すると、UI で登録したランタイムと同様に、そのランタイムのモデルがモデルセレクターのランタイム名の下に表示されます。

<Note>
  ランタイムを更新した後、キャッシュの有効期限が切れるまでの最大 60 秒間は、推論に以前の設定が引き続き使用される場合があります。
</Note>

<h2 id="register-a-custom-runtime-in-the-ui">
  UI でカスタムランタイムを登録する
</h2>

Weights & Biases の UI からカスタムランタイムを登録するには、次の手順を実行します。

1. Weave のサイドバーで **Project** を選択し、**AI Providers** タブを選択します。または、プレイグラウンド のモデルセレクターで **Configure providers** をクリックします。
2. **Add custom runtime** をクリックします。設定ドロワーが開きます。
3. ドロワーで、ランタイム名、ベース URL、および 1 つ以上のランタイム ID を入力します。必要に応じて、API キーのシークレットとカスタムヘッダーを追加します。
4. ランタイムを保存します。

<Frame>
  <img src="https://mintcdn.com/coreweave-dbfa0e8d/3Dv_sw2eg8feUJlx/products/wandb/weave/_media/custom-runtime.png?fit=max&auto=format&n=3Dv_sw2eg8feUJlx&q=85&s=ac8c104794b53c7ec8963d3273f46cea" alt="カスタムランタイムの設定メニュー" width="1298" height="733" data-path="products/wandb/weave/_media/custom-runtime.png" />
</Frame>

保存すると、ランタイムのモデルがモデルセレクター内の、ランタイム名が付いたグループに表示されます。ランタイム ID を指定せずに保存したランタイムもセレクターには表示され、**Add runtime ID** アクションからエディターを再度開くことができます。

ランタイムを編集または削除するには、**AI Providers** タブで該当するランタイムの行にある編集ボタンまたは削除ボタンを使用します。ランタイムを削除すると元に戻せません。
