> ## Documentation Index
> Fetch the complete documentation index at: https://docs.coreweave.com/llms.txt
> Use this file to discover all available pages before exploring further.

# プレイグラウンド を使用してプロンプトを試す

> LLM プロンプトと応答の反復処理を簡素化します

<Tip>
  期間限定で、Serverless Inference が無料枠に含まれています。Serverless Inference では、主要な open source foundation model に API および Weave プレイグラウンド からアクセスできます。

  * [開発者向けドキュメント](/ja/products/wandb/weave/guides/integrations/inference)
  * [プロダクトページ](https://wandb.ai/site/inference)
</Tip>

LLM のプロンプトと応答の評価は困難です。Weave プレイグラウンド は LLM のプロンプトと応答の反復処理を簡素化し、さまざまなモデルやプロンプトでの実験を支援します。プロンプトの編集、メッセージの再試行、モデル比較などの機能により、プレイグラウンド は LLM アプリケーションのテストと改善を支援します。プレイグラウンド は、アプリケーションに統合する前に LLM のプロンプトをテスト、比較、洗練したい開発者やプロンプトエンジニアを対象としています。プレイグラウンド は OpenAI、Anthropic、Google などのプロバイダーのモデルおよび [カスタムランタイム](#custom-runtimes) をサポートしています。

* **クイックアクセス:** 新しいセッションの場合は Weave サイドバーメニューから **プレイグラウンド** を開き、既存の project の Call ページから開いてテストします。
* **メッセージ操作:** チャット内で直接メッセージを編集、再試行、または削除します。
* **柔軟なメッセージング:** 新しいメッセージをユーザーまたはシステム入力として追加し、LLM に送信します。
* **カスタマイズ可能な設定:** 希望の LLM プロバイダを設定し、モデル設定を調整します。
* **マルチ LLM サポート:** モデルを切り替え、チームレベルの API キー管理を行います。
* **モデルの比較:** 異なるモデルがプロンプトにどのように応答するかを比較します。
* **カスタムランタイム:** カスタムモデルの OpenAI 互換 API エンドポイントをテストします。
* **保存済みモデル:** ワークフロー用の再利用可能なモデルプリセットを作成および設定します。

プレイグラウンド を使用して LLM とのやり取りを最適化し、プロンプトエンジニアリングプロセスと LLM アプリケーション開発を効率化しましょう。以下のセクションでは、プレイグラウンド の設定方法と使用方法について説明します。

* [プロバイダーの認証情報と情報を追加する](#add-provider-credentials-and-information)
* [プレイグラウンド にアクセスする](#access-the-playground)
* [LLM を選択する](#select-an-llm)
* [Playground の Settings をカスタマイズする](#customize-playground-settings)
* [メッセージ操作](#message-controls)
* [LLM を比較する](#compare-llms)
* [カスタムランタイム](#custom-runtimes)
* [保存済みモデル](#saved-models)

<h2 id="add-provider-credentials-and-information">
  プロバイダーの認証情報と情報を追加する
</h2>

プレイグラウンドを使用する前に、プロバイダーの認証情報を追加する必要があります。これにより、プレイグラウンドは各モデルプロバイダーへのリクエストを代わりに認証できます。プレイグラウンドは多くのプロバイダーのモデルをサポートします。利用可能なモデルのいずれかを使用するには、W\&B 設定のチームシークレットに適切な情報を追加する必要があります。

* Amazon Bedrock:
  * `AWS_ACCESS_KEY_ID`
  * `AWS_SECRET_ACCESS_KEY`
  * `AWS_REGION_NAME`
* Anthropic: `ANTHROPIC_API_KEY`
* Azure:
  * `AZURE_API_KEY`
  * `AZURE_API_BASE`
  * `AZURE_API_VERSION`
* Deepseek: `DEEPSEEK_API_KEY`
* Google: `GEMINI_API_KEY`
* Groq: `GROQ_API_KEY`
* Mistral: `MISTRAL_API_KEY`
* OpenAI: `OPENAI_API_KEY`
* X.AI: `XAI_API_KEY`

<h2 id="access-the-playground">
  プレイグラウンドにアクセスする
</h2>

プレイグラウンドには、2つの方法でアクセスできます。

1. *デフォルトのシステムプロンプトで新しいプレイグラウンドページを開く*: Weave プロジェクトのサイドバーで **プレイグラウンド** を選択します。プレイグラウンドが同じタブで開きます。
2. *特定の Call のプレイグラウンドを開く*:
   1. サイドバーで **トレース** タブを選択します。トレースのリストが表示されます。
   2. トレースのリストで、表示したい Call の名前をクリックします。Call の詳細ページが開きます。
   3. **プレイグラウンドでチャットを開く** をクリックします。プレイグラウンドが新しいタブで開きます。

<Frame>
  <img src="https://mintcdn.com/coreweave-dbfa0e8d/3Dv_sw2eg8feUJlx/products/wandb/weave/_media/open_chat_in_playground.png?fit=max&auto=format&n=3Dv_sw2eg8feUJlx&q=85&s=d2cf25b85a250baa787e341c5360dcdb" alt="Screenshot of Open in プレイグラウンド button" width="2468" height="1732" data-path="products/wandb/weave/_media/open_chat_in_playground.png" />
</Frame>

<h2 id="select-an-llm">
  LLM を選択
</h2>

プロンプトヘッダー (メインのプレイグラウンドパネルの上部) にある **Select a model** ドロップダウンで LLM を切り替えられます。以下のプロバイダーが利用可能です：

* Amazon Bedrock
* Anthropic
* Azure
* Deepseek
* Google
* Groq
* Mistral
* OpenAI
* X.AI

利用可能なモデルは、チーム用に設定されたプロバイダーによって異なります。

<h2 id="customize-playground-settings">
  プレイグラウンド の Settings をカスタマイズする
</h2>

選択したモデルのパラメーターを調整し、モデルが呼び出す関数を追加できます。以下のセクションでは、プレイグラウンド の Settings のカスタマイズ方法について説明します。

<h3 id="adjust-llm-parameters">
  LLM パラメーターを調整する
</h3>

選択したモデルに対して異なるパラメーター値を試すことができます。プレイグラウンドでパラメーターを調整するには、次の手順を実行します。

1. プロンプトヘッダー (メインパネルの上部) で、**Chat settings (<Icon icon="sliders-horizontal" iconType="regular" />)** ボタンをクリックして、**Chat settings** パネルを開きます。
2. **Chat settings** パネルで、必要に応じてパラメーターを調整します。Weave Call トラッキングのオン/オフを切り替えたり、[関数を追加](#add-a-function)したりすることもできます。
3. 変更は自動的に適用されます。**Chat settings** をもう一度クリックするか、パネルの右上隅の **x** をクリックしてパネルを閉じます。**Chat settings** ボタンのホバーテキストには、変更した設定が表示されます。

<Note>
  ページを離れると、設定は失われます。設定を保存するには、[モデルを保存](#save-a-model)します。変更した設定を破棄して最初からやり直す場合は、ページを更新してください。
</Note>

<Frame>
  <img src="https://mintcdn.com/coreweave-dbfa0e8d/3Dv_sw2eg8feUJlx/products/wandb/weave/_media/playground_settings.png?fit=max&auto=format&n=3Dv_sw2eg8feUJlx&q=85&s=43416618be53a6a994d2a28088231269" alt="Weave プレイグラウンドで、Select a model ドロップダウンが開き、右側に Chat settings パネルが開いている状態を示しています。" width="3334" height="1852" data-path="products/wandb/weave/_media/playground_settings.png" />
</Frame>

プレイグラウンドでは、試行回数を設定することで、同じ入力に対して複数の出力を生成できます。デフォルトの設定は `1` です。試行回数を調整するには、**Chat settings** パネルを開き、**Number of trials** 設定を調整します。

<h3 id="add-a-function">
  関数を追加する
</h3>

異なるモデルがユーザーから受け取る入力に基づいて、関数をどのように使用するかをテストできます。プレイグラウンドでテストする関数を追加するには、**Chat settings** パネルで **+ Add function** をクリックします。画面の指示に従って関数を定義し、変更を保存します。

<h2 id="message-controls">
  メッセージ操作
</h2>

プレイグラウンドのチャットインターフェースは、プロンプト定義エリア、メッセージパネル、メッセージコンポーザーの 3 つのエリアで構成されています。以下のセクションでは、各エリアについて説明します。

<h3 id="prompt-definition-area">
  プロンプト定義エリア
</h3>

**プロンプト定義エリア** を使用すると、インタラクション全体を通じてモデルの動作を形作る指示を定義できます。

このエリアを使用して、メッセージが交換される前に一貫して適用されるコンテキストを提供します。これにはロールの定義、トーンとスタイルのガイダンス、動作の制約、出力要件が含まれます。ここで行った変更は、変更しない限り以降のすべてのインタラクションに影響します。

以下が含まれます。

* **Prompt selector**: 既存の保存済みプロンプトを選択するか、新規に作成します。
* **Message role selector**: 定義するメッセージのロールを指定します (**システム**、**アシスタント**、または**ユーザー**ロール) 。
* **Prompt text**: モデルが応答する方法を確立する指示テキストを入力します。
* **Add message** ボタン: 実行前にプロンプトコンテキストに追加のメッセージを含めることができます。

これらのメッセージはまとめてモデルに送信され、以下に使用できます。

* 補足的なシステムレベルの指示を追加する。
* 応答をガイドするアシスタント メッセージの例を提供する (few-shot プロンプティングなど) 。
* 特定のシナリオをテストするためのユーザーメッセージを事前定義する。

<h3 id="messages-panel">
  メッセージパネル
</h3>

**メッセージパネル** は、実行中に生成された会話を表示します。

以下が含まれます。

* プロンプトのセットアップに含まれる事前定義されたメッセージ。
* メッセージコンポーザーから送信されたメッセージ。
* モデルから返された応答。

パネル内でメッセージを **Copy**、**Delete**、**Edit**、および**再試行** することもできます。

<h3 id="message-composer-input-field">
  メッセージコンポーザー (入力フィールド)
</h3>

**メッセージコンポーザー** を使用して、モデルに新しいメッセージを送信します。

メッセージのロールを選択したり、メッセージを送信して実行したりできます。ほとんどのインタラクションは **ユーザー** メッセージとして作成されます。指示の変更をテストする際には、**システム** または **アシスタント** メッセージを追加できます。

<Frame>
  <img src="https://mintcdn.com/coreweave-dbfa0e8d/3Dv_sw2eg8feUJlx/products/wandb/weave/_media/playground_chat_input.png?fit=max&auto=format&n=3Dv_sw2eg8feUJlx&q=85&s=4883e49f5049eb91b8b2058169861eec" alt="Weave プレイグラウンド showing the prompt definition area at the top, message history in the middle, and a message composer for sending new messages at the bottom." width="2684" height="1688" data-path="products/wandb/weave/_media/playground_chat_input.png" />
</Frame>

<h2 id="view-message-history">
  メッセージ履歴を表示
</h2>

メッセージ履歴を表示するには、右側のプレイグラウンドのツールバーにある **履歴 (<Icon icon="clock" iconType="light" />)** ボタンをクリックします。これにより、現在の project に送信されたすべてのメッセージを表示する履歴パネルが開きます。

履歴から項目を選択すると、比較用の追加のチャットパネルに読み込まれます。

<h2 id="compare-llms">
  LLM を比較する
</h2>

プレイグラウンドでは、LLM を並べて比較できるため、同じプロンプトに対して異なるモデルがどのように応答するかを評価できます。比較を行うには、右側のプレイグラウンドツールバーの **チャットを追加 (<Icon icon="plus" iconType="solid" />)** ボタンをクリックします。元のチャットの横に 2 番目のチャットが開きます。2 番目のチャットには、モデルの選択、設定の調整、関数の追加など、元のチャットと同じ機能があります。

<h2 id="custom-runtimes">
  カスタムランタイム
</h2>

組み込みのプロバイダーに加えて、プレイグラウンドはカスタムランタイムをサポートします。これは、project に登録する OpenAI 互換 API エンドポイントです。カスタムランタイムは以前 *custom providers* と呼ばれていました。チームが提供するエージェントのプロトタイプ、ローカルモデル、またはサポートされるプロバイダーの古いバージョンのモデルなどのモデルをテストするためにカスタムランタイムを使用します。

UI または Python SDK でカスタムランタイムを登録する方法については、[カスタムランタイム](/ja/products/wandb/weave/guides/tools/custom-runtimes) を参照してください。カスタムランタイムを登録すると、**Select a model** ドロップダウンからそのモデルを選択し、標準のプレイグラウンド機能を使用してテストできます。

<h3 id="use-a-local-model-as-a-custom-runtime">
  ローカルモデルをカスタムランタイムとして使用する
</h3>

プレイグラウンドでローカルで実行中のモデルをテストするには、ngrok と Ollama を使用して一時的な公開 URL を作成し、CORS 制限を回避します。これにより、ブラウザーのセキュリティポリシーに違反することなく、独自のマシンで実行中のモデルにプレイグラウンドからアクセスできます。

セットアップするには、次の手順を実行します。

1. お使いのオペレーティングシステム向けに [ngrok をインストール](https://ngrok.com/docs/getting-started/#step-1-install)します。

2. Ollama モデルを起動します。実行する Ollama モデルの名前に置き換えて `[MODEL]` を指定してください。

   ```bash theme={"system"}
   ollama run [MODEL]
   ```

3. 別のターミナルで、必要な CORS ヘッダーを指定して ngrok トンネルを作成します。

   ```bash theme={"system"}
   ngrok http 11434 --response-header-add "Access-Control-Allow-Origin: *" --host-header rewrite
   ```

4. ngrok が起動すると、`https://xxxx-xxxx.ngrok-free.app` のような公開 URL が表示されます。この URL を、[カスタムランタイムを登録する](/ja/products/wandb/weave/guides/tools/custom-runtimes#register-a-custom-runtime-in-the-ui) 際の **ベース URL** として使用してください。

次の図は、ローカル環境、ngrok プロキシ、および W\&B クラウドサービス間のデータフローを示しています。

```mermaid theme={"system"}
flowchart LR
    %% Style definitions
    classDef clientMachine fill:#FFD95CCC,stroke:#454B52,stroke-width:2px
    classDef proxy fill:#00CDDBCC,stroke:#454B52,stroke-width:2px
    classDef wandbCloud fill:#DE72FFCC,stroke:#454B52,stroke-width:2px
    classDef publicCloud fill:#FFCBADCC,stroke:#454B52,stroke-width:2px

    %% Subgraphs
    subgraph クライアントマシン
        browser[ブラウザー]
        llm_local[ローカル LLM プロバイダ]
    end

    subgraph プロキシ
        ngrok[Ngrok プロキシ]
    end

    subgraph WandB_Cloud
        trace_server[トレースサーバー]
    end

    subgraph パブリッククラウド
        llm_cloud[パブリック LLM プロバイダ]
    end

    %% Apply styles to subgraphs
    class Client_Machine clientMachine
    class Proxy proxy
    class WandB_Cloud wandbCloud
    class Public_Cloud publicCloud

    %% Current Data Flow
    browser -->|チャットリクエストを送信| trace_server
    trace_server -->|パブリック LLM を使用| llm_cloud
    trace_server -->|ローカル LLM を使用| ngrok
    ngrok -->|転送先| llm_local
    llm_cloud -->|応答を返す| trace_server
    llm_local -->|応答を返す| ngrok
    ngrok -->|転送先| trace_server
    trace_server -->|応答を返す| browser

    %% Future Possible Connection
    browser -.->|将来: ローカル LLM を直接呼び出す| llm_local

    %% Link styles
    linkStyle default stroke:#454B52,stroke-width:2px
    linkStyle 8 stroke:#454B52,stroke-width:2px,stroke-dasharray:5
```

<h2 id="saved-models">
  保存済みモデル
</h2>

保存済みモデルを使用すると、プロバイダー、モデル、パラメーター、関数のフックを再利用可能なプリセットとして保存できます。以下のセクションでは、モデルの保存、使用、更新方法について説明します。

<h3 id="save-a-model">
  モデルを保存する
</h3>

再利用可能なモデルプリセットを作成して、ワークフローに合わせて設定できます。モデルを保存すると、好みの設定、パラメーター、関数フックをすばやく読み込めます。

1. プロンプトヘッダー (メインパネルの上部) で、**Select a model** ドロップダウンからプロバイダーとモデルを選択します。
2. プロンプトヘッダーで、**Chat settings (<Icon icon="sliders-horizontal" iconType="regular" />)** ボタンをクリックして **Chat settings** パネルを開きます。
3. **Chat settings** パネルで：
   * **Model Name** (必須): 保存済みモデルの名前を入力します。
   * パラメーターを希望通りに調整します。Weave Call トラッキングのオン/オフを切り替えたり、[関数を追加](#add-a-function)したりすることもできます。
4. **Publish model** をクリックします。モデルは保存され、**Select a model** ドロップダウンの **Saved Models** からアクセスできるようになります。その後、保存済みモデルを[使用](#use-a-saved-model)したり、[更新](#update-a-saved-model)したりできます。

<h3 id="use-a-saved-model">
  保存済みモデルを使用する
</h3>

以前に[保存済みモデル](#save-a-model)に切り替えて、実験やセッション全体で一貫性を維持します。これにより、以前の状態から再開できます。

1. プロンプトヘッダーで、**Select a model** ドロップダウンから **Saved Models** を選択します。
2. 保存済みモデルのリストから、読み込みたい保存済みモデルを選択します。モデルが読み込まれ、プレイグラウンドで使用する準備が完了します。

<h3 id="update-a-saved-model">
  保存済みモデルの更新
</h3>

既存の [保存済みモデル](#save-a-model) を編集してパラメーターをファインチューンしたり、設定を更新したりできます。これにより、保存済みモデルはユースケースに合わせて進化します。

1. プロンプトヘッダーの **Select a model** ドロップダウンで **Saved Models** を選択します。
2. 保存済みモデルの一覧から、更新したい保存済みモデルを選択します。
3. プロンプトヘッダーで **Chat settings (<Icon icon="sliders-horizontal" iconType="regular" />)** ボタンをクリックし、**Chat settings** パネルを開きます。
4. **Chat settings** パネルで、必要に応じてパラメーターを調整します。Weave Call トラッキングをオンまたはオフに切り替えたり、[関数を追加](#add-a-function)したりすることもできます。
5. **Update model** をクリックします。これによりモデルが更新され、**Select a model** ドロップダウンの **Saved Models** からアクセスできるようになります。保存済みモデルのバージョンは自動的に増分されます。


## Related topics

- [ファインチューニング済みの LoRA アダプターの作成](/ja/products/inference/serverless/tutorials/creating-lora.md)
