weave.scorers.default_models に記載されているアーティファクト パスを参照してください。
これらの Scorer は、入力テキストが安全または高品質かどうかを示すブール型の passed 属性を持つオブジェクトを返します。このオブジェクトには、モデルが出力した生のスコアなどの詳細情報を含む metadata 属性もあります。
ローカルScorer は CPU でも実行できますが、最高のパフォーマンスを得るには GPU の使用を Weights & Biases では推奨しています。
ローカルScorer は Weave Python SDK でのみ利用できます。Weave TypeScript SDK ではまだ利用できません。TypeScript で Weave の Scorer を使用するには、関数ベースの Scorer を参照してください。
前提条件
Weave のローカルScorerを使用する前に、必要な Scorer ライブラリを含む追加の依存関係をインストールしてください。Scorer を選択する
以下のローカルScorerを使用できます。ユースケースに応じて Scorer を選択し、以下の該当するセクションで使用上のメモと例を確認してください。WeaveBiasScorerV1
この scorer は、性別および人種・出身に関するバイアスを次の 2 つの観点から評価します。
- 人種と出身: 人種差別、および出身国・地域、在留資格、民族に対するバイアス。
- 性別とセクシュアリティ: 性差別、女性蔑視、同性愛嫌悪、トランスジェンダー嫌悪、セクシュアルハラスメント。
WeaveBiasScorerV1 は、ファインチューンされた deberta-small-long-nli モデルを使用します。モデル、データセット、キャリブレーションプロセスの詳細については、WeaveBiasScorerV1 W&B Report を参照してください。
使用上のメモ
scoreメソッドでは、outputパラメーターに string を渡す必要があります。- スコアが高いほど、テキストにバイアスが含まれている可能性が高いと予測されていることを示します。
thresholdパラメーターにはあらかじめ値が設定されていますが、初期化時に上書きすることもできます。
使用例
WeaveToxicityScorerV1
この Scorer は、入力テキストの有害性を次の 5 つの観点から評価します。
- 人種と出身: 出身国や出身地域、在留資格、民族に基づく人種差別やバイアス。
- 性別とセクシュアリティ: 性差別、女性蔑視、同性愛嫌悪、トランスジェンダー嫌悪、セクシュアルハラスメント。
- 宗教: 特定の宗教に対するバイアスや固定観念。
- 能力: 身体的、精神的、知的な能力や障がいに関するバイアス。
- 暴力と虐待: 過度に生々しい暴力描写、暴力による脅迫、暴力の扇動。
WeaveToxicityScorerV1 は、PleIAs が公開しているオープンソースの Celadon モデルを使用しています。詳細については、WeaveToxicityScorerV1 W&B Report を参照してください。
使用上のメモ
scoreメソッドでは、outputパラメーターに string を渡す必要があります。- このモデルは、5 つのカテゴリそれぞれについて
0から3までのスコアを返します。- これらのスコアの合計が
total_threshold(デフォルト値は5) を超えると、入力は有害と判定されます。 - いずれかのカテゴリのスコアが
category_threshold(デフォルトは2) を超えた場合も、入力は有害と判定されます。
- これらのスコアの合計が
- フィルタリングをより厳しくするには、初期化時に
category_thresholdまたはtotal_thresholdを上書きしてください。
- このモデルは、5 つのカテゴリそれぞれについて
使用例
WeaveHallucinationScorerV1
この Scorer は、入力データに基づいて、AI システムの出力にハルシネーションが含まれていないかをチェックします。
WeaveHallucinationScorerV1 は、Vectara が提供するオープンソースの HHEM 2.1 モデル を使用しています。詳細については、WeaveHallucinationScorerV1 W&B Report を参照してください。
使用上のメモ
scoreメソッドでは、queryパラメーターとoutputパラメーターに値を渡す必要があります。- コンテキストは
outputパラメーターに (string または list of strings として) 渡します。 - 出力スコアが高いほど、出力にハルシネーションが含まれている可能性が高いと予測されたことを意味します。
thresholdパラメーターにはデフォルト値が設定されていますが、初期化時に上書きできます。
- コンテキストは
使用例
WeaveContextRelevanceScorerV1
この Scorer は RAG システムの評価に使用します。クエリに対するコンテキストの関連性をスコア付けします。
WeaveContextRelevanceScorerV1 は、tasksource の deberta-small-long-nli モデルをファインチューンしたものを使用しています。詳細については、WeaveContextRelevanceScorerV1 W&B Report を参照してください。
使用上のメモ
scoreメソッドにはqueryとoutputの値を渡す必要があります。- コンテキストは
outputパラメーター (string または list of strings) に渡してください。 - スコアが高いほど、コンテキストがクエリに関連している可能性が高いと予測されていることを示します。
scoreメソッドにverbose=Trueを渡すと、チャンクごとのスコアを取得できます。
- コンテキストは
使用例
WeaveCoherenceScorerV1
この Scorer は、入力テキストに一貫性があるかどうかを判定します。
WeaveCoherenceScorerV1 は、tasksource の deberta-small-long-nli モデルをファインチューンしたものを使用しています。詳細については、WeaveCoherenceScorerV1 W&B Report を参照してください。
使用上のメモ
scoreメソッドでは、queryパラメーターとoutputパラメーターにテキストを渡す必要があります。- 出力スコアが高いほど、一貫性が高いと強く予測されていることを示します。
使用例
WeaveFluencyScorerV1
この Scorer は、入力テキストが流暢か (読みやすく、人間が書く自然な文章に近いか) を判定します。文法、構文、全体的な読みやすさを評価します。
WeaveFluencyScorerV1 は、AnswerDotAI の ModernBERT-base をファインチューンしたモデルを使用します。詳細については、WeaveFluencyScorerV1 W&B Report を参照してください。
使用上のメモ
scoreメソッドでは、outputパラメーターにテキストを渡す必要があります。- 出力スコアが高いほど、流暢性が高いことを示します。
使用例
WeaveTrustScorerV1
複数の Scorer を個別に実行する代わりに、それらを組み合わせた単一の信頼シグナルを得たい場合は、この Scorer を使用します。
WeaveTrustScorerV1 は、RAG システム向けの複合 Scorer です。他の Scorer を Critical と Advisory の 2 つのカテゴリに分類し、モデル出力の信頼性を評価します。複合スコアに基づいて、次のいずれかの信頼レベルを返します。
high: 問題は検出されていません。medium: Advisory の問題のみが検出されています。low: Critical の問題が検出されたか、入力が空です。
low になります。Advisory の Scorer で不合格となった場合は medium になります。
- Critical:
-
WeaveToxicityScorerV1 -
WeaveHallucinationScorerV1 -
WeaveContextRelevanceScorerV1 -
Advisory:
WeaveFluencyScorerV1WeaveCoherenceScorerV1
-
使用上のメモ
- この scorer は RAG パイプラインの評価に使用します。
- 正しくスコアリングするには、
query、context、outputの各キーが必要です。
- 正しくスコアリングするには、
使用例
PresidioScorer
この Scorer は Presidio ライブラリを使用して、AI システムの入力と出力に含まれる個人を特定できる情報 (PII) を検出します。
使用上のメモ
- メールアドレスや電話番号など特定のエンティティタイプを検出するには、Presidio エンティティのリストを
selected_entitiesパラメーターに渡します。指定しない場合、Presidio はデフォルトのエンティティリストに含まれるすべてのエンティティタイプを検出します。custom_recognizersパラメーターには、カスタム認識器をpresidio.EntityRecognizerインスタンスのリストとして渡せます。- 英語以外の入力を処理する場合は、
languageパラメーターで言語を指定します。