Skip to main content
Weave のローカルScorer は、お使いのマシン上でローカルに実行される小規模言語モデルのスイートで、レイテンシーを最小限に抑えられます。これらのモデルは、AI システムの入力、コンテキスト、出力の安全性と品質を評価します。 このページでは、Weave のローカルScorer を使用して AI システムの安全性と品質を評価する方法を説明し、利用可能な各 Scorer を使用上のメモとサンプルとともに紹介します。このガイドを参考に、ユースケースに合った Scorer を選び、依存関係をインストールして、AI システムの入力、コンテキスト、または出力に Scorer を追加してください。 これらのモデルの一部は Weights & Biases がファインチューンしたもので、残りはコミュニティがトレーニングした最先端のオープンソースモデルです。トレーニングと評価のプロセスは W&B Reports にまとめられています。詳細については、W&B Reports の一覧を参照してください。 モデルの重みは W&B Artifacts で公開されており、Scorer クラスをインスタンス化すると Weave が自動的にダウンロードします。手動でダウンロードする場合は、weave.scorers.default_models に記載されているアーティファクト パスを参照してください。 これらの Scorer は、入力テキストが安全または高品質かどうかを示すブール型の passed 属性を持つオブジェクトを返します。このオブジェクトには、モデルが出力した生のスコアなどの詳細情報を含む metadata 属性もあります。 ローカルScorer は CPU でも実行できますが、最高のパフォーマンスを得るには GPU の使用を Weights & Biases では推奨しています。
ローカルScorer は Weave Python SDK でのみ利用できます。Weave TypeScript SDK ではまだ利用できません。TypeScript で Weave の Scorer を使用するには、関数ベースの Scorer を参照してください。

前提条件

Weave のローカルScorerを使用する前に、必要な Scorer ライブラリを含む追加の依存関係をインストールしてください。
依存関係のインストールが完了したら、評価に使用する Scorer を選択しましょう。

Scorer を選択する

以下のローカルScorerを使用できます。ユースケースに応じて Scorer を選択し、以下の該当するセクションで使用上のメモと例を確認してください。

WeaveBiasScorerV1

この scorer は、性別および人種・出身に関するバイアスを次の 2 つの観点から評価します。
  • 人種と出身: 人種差別、および出身国・地域、在留資格、民族に対するバイアス。
    • 性別とセクシュアリティ: 性差別、女性蔑視、同性愛嫌悪、トランスジェンダー嫌悪、セクシュアルハラスメント。
WeaveBiasScorerV1 は、ファインチューンされた deberta-small-long-nli モデルを使用します。モデル、データセット、キャリブレーションプロセスの詳細については、WeaveBiasScorerV1 W&B Report を参照してください。

使用上のメモ

  • score メソッドでは、output パラメーターに string を渡す必要があります。
    • スコアが高いほど、テキストにバイアスが含まれている可能性が高いと予測されていることを示します。
    • threshold パラメーターにはあらかじめ値が設定されていますが、初期化時に上書きすることもできます。

使用例


WeaveToxicityScorerV1

この Scorer は、入力テキストの有害性を次の 5 つの観点から評価します。
  • 人種と出身: 出身国や出身地域、在留資格、民族に基づく人種差別やバイアス。
    • 性別とセクシュアリティ: 性差別、女性蔑視、同性愛嫌悪、トランスジェンダー嫌悪、セクシュアルハラスメント。
    • 宗教: 特定の宗教に対するバイアスや固定観念。
    • 能力: 身体的、精神的、知的な能力や障がいに関するバイアス。
    • 暴力と虐待: 過度に生々しい暴力描写、暴力による脅迫、暴力の扇動。
WeaveToxicityScorerV1 は、PleIAs が公開しているオープンソースの Celadon モデルを使用しています。詳細については、WeaveToxicityScorerV1 W&B Report を参照してください。

使用上のメモ

  • score メソッドでは、output パラメーターに string を渡す必要があります。
    • このモデルは、5 つのカテゴリそれぞれについて 0 から 3 までのスコアを返します。
      • これらのスコアの合計が total_threshold (デフォルト値は 5) を超えると、入力は有害と判定されます。
      • いずれかのカテゴリのスコアが category_threshold (デフォルトは 2) を超えた場合も、入力は有害と判定されます。
    • フィルタリングをより厳しくするには、初期化時に category_threshold または total_threshold を上書きしてください。

使用例


WeaveHallucinationScorerV1

この Scorer は、入力データに基づいて、AI システムの出力にハルシネーションが含まれていないかをチェックします。 WeaveHallucinationScorerV1 は、Vectara が提供するオープンソースの HHEM 2.1 モデル を使用しています。詳細については、WeaveHallucinationScorerV1 W&B Report を参照してください。

使用上のメモ

  • score メソッドでは、query パラメーターと output パラメーターに値を渡す必要があります。
    • コンテキストは output パラメーターに (string または list of strings として) 渡します。
    • 出力スコアが高いほど、出力にハルシネーションが含まれている可能性が高いと予測されたことを意味します。
    • threshold パラメーターにはデフォルト値が設定されていますが、初期化時に上書きできます。

使用例


WeaveContextRelevanceScorerV1

この Scorer は RAG システムの評価に使用します。クエリに対するコンテキストの関連性をスコア付けします。 WeaveContextRelevanceScorerV1 は、tasksource の deberta-small-long-nli モデルをファインチューンしたものを使用しています。詳細については、WeaveContextRelevanceScorerV1 W&B Report を参照してください。

使用上のメモ

  • score メソッドには query と output の値を渡す必要があります。
    • コンテキストは output パラメーター (string または list of strings) に渡してください。
    • スコアが高いほど、コンテキストがクエリに関連している可能性が高いと予測されていることを示します。
    • score メソッドに verbose=True を渡すと、チャンクごとのスコアを取得できます。

使用例


WeaveCoherenceScorerV1

この Scorer は、入力テキストに一貫性があるかどうかを判定します。 WeaveCoherenceScorerV1 は、tasksource の deberta-small-long-nli モデルをファインチューンしたものを使用しています。詳細については、WeaveCoherenceScorerV1 W&B Report を参照してください。

使用上のメモ

  • score メソッドでは、query パラメーターと output パラメーターにテキストを渡す必要があります。
    • 出力スコアが高いほど、一貫性が高いと強く予測されていることを示します。

使用例


WeaveFluencyScorerV1

この Scorer は、入力テキストが流暢か (読みやすく、人間が書く自然な文章に近いか) を判定します。文法、構文、全体的な読みやすさを評価します。 WeaveFluencyScorerV1 は、AnswerDotAI の ModernBERT-base をファインチューンしたモデルを使用します。詳細については、WeaveFluencyScorerV1 W&B Report を参照してください。

使用上のメモ

  • score メソッドでは、output パラメーターにテキストを渡す必要があります。
    • 出力スコアが高いほど、流暢性が高いことを示します。

使用例


WeaveTrustScorerV1

複数の Scorer を個別に実行する代わりに、それらを組み合わせた単一の信頼シグナルを得たい場合は、この Scorer を使用します。 WeaveTrustScorerV1 は、RAG システム向けの複合 Scorer です。他の Scorer を Critical と Advisory の 2 つのカテゴリに分類し、モデル出力の信頼性を評価します。複合スコアに基づいて、次のいずれかの信頼レベルを返します。
  • high: 問題は検出されていません。
    • medium: Advisory の問題のみが検出されています。
    • low: Critical の問題が検出されたか、入力が空です。
Critical の Scorer で不合格となった入力は、信頼レベルが low になります。Advisory の Scorer で不合格となった場合は medium になります。
  • Critical:
    • WeaveToxicityScorerV1
    • WeaveHallucinationScorerV1
    • WeaveContextRelevanceScorerV1
    • Advisory:
      • WeaveFluencyScorerV1
      • WeaveCoherenceScorerV1

使用上のメモ

  • この scorer は RAG パイプラインの評価に使用します。
    • 正しくスコアリングするには、query、context、output の各キーが必要です。

使用例


PresidioScorer

この Scorer は Presidio ライブラリを使用して、AI システムの入力と出力に含まれる個人を特定できる情報 (PII) を検出します。

使用上のメモ

  • メールアドレスや電話番号など特定のエンティティタイプを検出するには、Presidio エンティティのリストを selected_entities パラメーターに渡します。指定しない場合、Presidio はデフォルトのエンティティリストに含まれるすべてのエンティティタイプを検出します。
    • custom_recognizers パラメーターには、カスタム認識器を presidio.EntityRecognizer インスタンスのリストとして渡せます。
    • 英語以外の入力を処理する場合は、language パラメーターで言語を指定します。

使用例

最終更新日 2026年9月30日