利用できるビュー
- 時系列のリクエスト数
- ルーティング先モデル別のトラフィック比率
- プロジェクトバージョンの分布
- 入力・出力トークン量
- プロバイダーエラー
- 入力・出力・合計コストの推定値
- 現在トラフィックを受けていない比較対象モデル
料金のカバレッジ
Analytics は、報告されたコストがあればそれを使用し、ない場合は次のソースを上から順に使用してコストを推定します。- プロバイダーまたはファインチューンに設定済みの手動モデル価格。
- ホストされたモデル、またはファインチューンのベースモデルに対する Serverless Inference の料金。
- 一致するモデルが既知の場合は、バンドルされた LiteLLM カタログ。
ロールアウト中に Analytics を使用する
ルーティングを変更した後、次を確認してください。- 新しいモデルに意図した割合のトラフィックが割り当てられていること;
- 古いモデルの重みが想定した残余値またはゼロに維持されていること;
- エラー率が増加していないこと;
- トークン量と終了時の動作が妥当であること;
- 推定コストが想定した方向に変化していること。
API: project の Analytics を読み取る (GET /projects/{alias}/analytics)
API: project の Analytics を読み取る (GET /projects/{alias}/analytics)
time_range クエリは、1h、24h、5d、30d、12w などの相対ウィンドウを受け入れます。