カスタムランタイムを追加する

• チームが OpenAI 互換 API で提供しているエージェントやモデルのプロトタイプ
• セルフホストまたはローカルのモデル (Ollama や vLLM で提供しているモデルなど)
• Weave が標準でサポートしていないプロバイダーやモデルバージョン

​

カスタムランタイムを使用できる場所

• プレイグラウンド: エンドポイントとインタラクティブにチャットできます。
• Evaluation Playground: エンドポイントを評価し、他のモデルと比較できます。
• シグナル: 受信トレースをスコアリングする judge モデルとしてエンドポイントを使用できます。
• Scorer の反復処理と Agent Signals のモデルセレクター。
• Weave completions API: completions/create エンドポイントにモデル ID custom::<runtime-name>::<runtime-id> を渡すと、エンドポイントに対してトレース付きの completion をプログラムから実行できます。詳しくは サービス API リファレンス を参照してください。

​

カスタムランタイムを追加する

​

コードを使用してカスタムランタイムを追加する

import weave

client = weave.init("[YOUR-TEAM-NAME]/[YOUR-PROJECT-NAME]")

client.register_custom_runtime(
    name="support-agent",
    base_url="https://agent.example/v1",
    api_key_secret="AGENT_API_KEY",
    headers={"X-Tenant-ID": "customer-1"},
    runtime_ids=[
        "support-v12",
        weave.CustomRuntimeID(id="support-canary", max_tokens=8192),
    ],
)

import * as weave from 'weave';

const client = await weave.init('[YOUR-TEAM-NAME]/[YOUR-PROJECT-NAME]');

await client.registerCustomRuntime({
  name: 'support-agent',
  baseUrl: 'https://agent.example/v1',
  apiKeySecret: 'AGENT_API_KEY',
  headers: {'X-Tenant-ID': 'customer-1'},
  runtimeIds: ['support-v12', {id: 'support-canary', maxTokens: 8192}],
});

​

UI でカスタムランタイムを登録する

1. Weave のサイドバーで Project を選択し、AI Providers タブを選択します。または、プレイグラウンド のモデルセレクターで Configure providers をクリックします。
2. Add custom runtime をクリックします。設定ドロワーが開きます。
3. ドロワーで、ランタイム名、ベース URL、および 1 つ以上のランタイム ID を入力します。必要に応じて、API キーのシークレットとカスタムヘッダーを追加します。
4. ランタイムを保存します。