開始する前に、代表的なリクエストを project 経由で送信してください。UI がモデルの価格を自動的に特定できない場合は、コスト比較に十分な価格カバレッジを確保できるよう、モデルの価格を設定してください。
1
期間を選択する
project の Analytics ページを開き、1 時間から 3 か月までの範囲で期間を選択します。候補モデルに処理させる予定のトラフィックを代表する期間を選んでください。
2
トラフィックの健全性を確認する
リクエスト量、ルーティング先モデルの割合、project のバージョン、トークン量、プロバイダーエラーを確認します。コストを比較する前に、予期しないエラーやルーティングの変化があれば解消してください。
3
価格カバレッジを確認する
次のステップのコスト比較に両方のモデルが正確に反映されるよう、比較するモデルの価格カバレッジが同程度であることを確認します。UI で価格が見つからない場合は、プロバイダーまたはファインチューンの設定で価格を手動で追加してください。
4
モデルのコストを比較する
コスト計算ツールで比較対象のモデルを選択します。選択した期間のすべてのトラフィックでそのモデルを使用していた場合の推定コストと節約額を確認します。この結果はあくまで推定値です。より安価なモデルでもアプリケーションに必要な品質を維持できることを、評価とアプリケーションのメトリクスで確認してください。
5
ロールアウトを監視する
ルーティングを変更したら、候補モデルが意図した割合のトラフィックを受け取っていること、エラーが安定していること、推定コストが想定どおりに推移していることを確認します。
Analytics のメトリクスと価格
UI でトラフィック、トークン、エラー、コストの各ビューがどのように計算されるかを説明します。