Skip to main content
LLM アプリケーションを評価するには、フィードバックを収集・分析するためのツールが必要です。W&B Weave には統合されたフィードバックシステムが用意されており、UI から直接、または SDK を使用してプログラムから Call にフィードバックを提供できます。Weave は絵文字によるリアクション、テキストコメント、構造化データなど、複数のフィードバックタイプをサポートしているため、チームで次のようなことを行えます。
  • パフォーマンスのモニタリング用に評価データセットを構築する。
  • LLM が生成するコンテンツの問題を特定して解決する。
  • ファインチューニングなどの高度なタスクに使用するサンプルを収集する。
このガイドは、Weave で LLM アプリケーションを扱う開発者とレビュアーを対象としています。UI と SDK の両方での Weave のフィードバック機能の使い方、フィードバックをクエリして管理する方法、詳細な評価に人によるアノテーションを使用する方法について説明します。

UI でフィードバックを提供する

以下のセクションでは、Weights & Biases の UI でフィードバックを提供する方法を説明します。フィードバックは、Call details パネルから、またはフィードバックアイコンを使用して提供できます。

Call details パネルを使用する

  1. Weave プロジェクトのサイドバーで、Traces にアクセスします。
  2. フィードバックを追加する Call の行を探します。
  3. リンクになっている トレース名をクリックして、トレース ツリーと Call details パネルを開きます。
  4. Call details のタブバーで Feedback を選択します。
  5. フィードバックを追加、表示、または削除します。
    • アイコンを使用してフィードバックを追加および表示します。 アイコンは Call details のフィードバックビューの右上にあります。
    • Call details のフィードバック表でフィードバックを表示および削除します。 フィードバックを削除するには、対象のフィードバック行の右端の列にあるゴミ箱アイコンをクリックします。
Call details の Feedback タブ

フィードバックアイコンを使用する

Traces の表と個々の Call details パネルの両方にあるアイコンを使用して、リアクションの追加や削除、メモの追加を行えます。
  • Traces の表: Traces の表の該当する行の Feedback 列にあります。
  • Call details パネル: 各 Call details パネルの右上にあります。
リアクションを追加するには:
  1. 絵文字アイコンをクリックします。
  2. 高評価または低評価を追加するか、+ アイコンをクリックしてその他の絵文字を選択します。
リアクションを削除するには:
  1. 削除する絵文字リアクションにマウスカーソルを合わせます。
  2. リアクションをクリックして削除します。
Call details パネルの Feedback 列からフィードバックを削除することもできます。
コメントを追加するには:
  1. コメントの吹き出しアイコンをクリックします。
  2. テキストボックスにメモを入力します。フィードバックのメモは最大 1024 文字です。
  3. Enter キーを押してメモを保存します。メモは複数追加できます。
フィードバックのメモは最大 1024 文字です。この制限を超えるメモは Weave によって作成されません。
Feedback 列を含む Call のグリッド

SDK を使用してフィードバックを提供する

UI で手動でフィードバックを入力する代わりに、フィードバックの収集を自動化したい場合や、評価パイプラインに統合したい場合は、SDK を使用します。 フィードバックに関する SDK の使用例は、UI の Call details パネルにある Use タブで確認できます。 Weave Python SDK を使用すると、Call に対するフィードバックをプログラムから追加、削除、クエリできます。TypeScript SDK はフィードバック機能をサポートしていません。

project のフィードバックをクエリする

SDK を使用して、Weave プロジェクトのフィードバックをクエリできます。SDK では、次のフィードバッククエリ操作がサポートされています。
  • client.get_feedback(): project 内のすべてのフィードバックを返します。
  • client.get_feedback("[FEEDBACK-UUID]"): [FEEDBACK-UUID] で指定した特定のフィードバックオブジェクトをコレクションとして返します。
  • client.get_feedback(reaction="[REACTION-TYPE]"): 特定のリアクションタイプに該当するすべてのフィードバックオブジェクトを返します。
client.get_feedback() では、各フィードバックオブジェクトについて次の詳細情報も取得できます。
  • id: フィードバックオブジェクトの ID。
  • created_at: フィードバックオブジェクトの作成日時。
  • feedback_type: フィードバックのタイプ (リアクション、メモ、カスタム) 。
  • payload: フィードバックのペイロード。

Call にフィードバックを追加する

Call の UUID を使用して、Call にフィードバックを追加できます。UUID を使用して特定の Call を取得するには、Call の実行中または実行後に UUID を取得してください。SDK では、Call にフィードバックを追加するための次の操作がサポートされています。
  • call.feedback.add_reaction("[REACTION-TYPE]"): 👍 など、サポートされる [REACTION-TYPE] の値 (絵文字) のいずれかを追加します。
  • call.feedback.add_note("[NOTE]"): メモを追加します。
  • call.feedback.add("[LABEL]", [OBJECT]): [LABEL] で指定したカスタムフィードバック [OBJECT] を追加します。
フィードバックのメモの最大文字数は 1024 文字です。この制限を超えるメモは Weave によって作成されません。

Call の UUID を取得する

Call の直後にフィードバックを追加する必要がある場合は、Call の実行中または実行後に Call の UUID をプログラムから取得できます。 Call の実行中に UUID を取得するには、現在の Call を取得し、その ID を返します。
または、call() メソッドを使用して操作を実行し、Call の実行後に ID を取得することもできます。

Call からフィードバックを削除する

UUID を指定すると、特定の Call からフィードバックを削除できます。

人によるアノテーションを追加する

人によるアノテーションを使用すると、Call に対して人がレビューした判断を構造化された形式で取得できます。これにより、レビュー担当者は独自の基準に基づいてモデル出力をスコア付けできます。 人によるアノテーションは Weights & Biases UI でサポートされています。この機能では、カスタムフィールドを作成し、人が入力したデータをフィードバックとしてトレースに追加できます。人によるアノテーションを行うには、まず UI または API を使用して Human Annotation スコアラーを作成する必要があります。作成後は、UI でスコアラーを使用してアノテーションを行ったり、API を使用してアノテーションスコアラーを変更したりできます。

UI で Human Annotation スコアラーを作成する

UI で Human Annotation スコアラーを作成するには、次の手順に従います。
  1. プロジェクトのサイドバーで、Assets にアクセスします。
  2. Assets のナビゲーションパネルで、Scorers をクリックします。
  3. Scorers パネルのヘッダーで、New scorer をクリックします。
  4. Create Scorer モーダルダイアログで、次の項目を設定します。
    • Scorer type:Human annotation を選択
    • Name
    • Description
    • Type:収集するフィードバックのタイプ (boolean、integer など) を指定します。
  5. Create scorer をクリックします。これで、作成したスコアラーを使用してアノテーションを付けられるようになります。
次の例では、LLM が読み込んだドキュメントの種類をアノテーターが選択します。スコア設定の Type は、想定されるドキュメントタイプを列挙した enum です。
Create Scorer モーダルダイアログ

UI で 人によるアノテーション スコアラーを使用する

人によるアノテーション スコアラーを作成すると、トレース ページで使用できるようになります。 スコアラーを使用するには、次の手順を実行します。
  1. プロジェクトのサイドバーで Traces にアクセスします。
  2. 人によるアノテーションを追加する Call の行を探します。
  3. リンクになっているトレース名をクリックして、トレース ツリーと Call details パネルを開きます。
  4. Call details のタブバーの右上にある Show feedback ボタンをクリックします。 Call ヘッダーのマーカー アイコン 使用可能な 人によるアノテーション スコアラーが Annotate パネルに表示されます。 人によるアノテーション スコアラーのフィードバック パネル
  5. アノテーションを入力します。
  6. Save をクリックします。
  7. Call details パネルのタブバーで Feedback タブをクリックして、Feedback の表を表示します。新しいアノテーションが表に表示されます。アノテーションは、メインの Traces の表の Annotations 列でも確認できます。
    最新の情報を表示するには、Traces の表を更新してください。
Traces の表に表示された 人によるアノテーション スコアラーのフィードバック

API を使用して Human Annotation スコアラーを作成する

Human Annotation スコアラーは API から作成することもできます。スコアラーはそれぞれ独立したオブジェクトであり、個別に作成・更新します。Human Annotation スコアラーをプログラムで作成するには、次の手順を実行します。
  1. weave.flow.annotation_spec から AnnotationSpec クラスをインポートします。
  2. weave の publish メソッドを使用してスコアラーを作成します。
次の例では、2 つのスコアラーを作成します。1 つ目のスコアラー Temperature は、LLM Call の体感温度をスコアリングします。2 つ目のスコアラー Tone は、LLM の応答のトーンをスコアリングします。各スコアラーは、対応するオブジェクト ID (temperature-scorer と tone-scorer) を指定して save を使用します。

API を使用して Human Annotation スコアラーを変更する

API を使用した Human Annotation スコアラーの作成の例をもとに、次の例では publish で元のオブジェクト ID (temperature-scorer) を指定して、Temperature スコアラーの新しいバージョンを作成します。その結果、オブジェクトが更新され、すべてのバージョンの履歴が保持されます。
Human Annotation スコアラーのオブジェクト履歴は、Human annotations の Scorers タブで確認できます。
Human Annotation スコアラーの履歴

API で Human Annotation スコアラーを使用する

フィードバック API では、特別な形式で構成した名前と annotation_ref フィールドを指定することで、Human Annotation スコアラーを使用できます。annotation_spec_ref は、UI で該当するタブを選択するか、AnnotationSpec の作成時に取得できます。
最終更新日 2026年9月30日