Avant de commencer, envoyez des requêtes représentatives via le projet. Configurez les prix des modèles lorsque l’interface ne parvient pas à les identifier automatiquement, afin que les comparaisons de coûts disposent d’une couverture tarifaire suffisante.
1
Sélectionner une période
Ouvrez la page Analytics du projet et choisissez une période comprise entre une heure et trois mois. Choisissez une période représentative du trafic que le candidat devrait traiter.
2
Vérifier l’état du trafic
Examinez le volume de requêtes, la part de trafic acheminée vers chaque modèle, les versions du projet, le volume de jetons et les erreurs des fournisseurs. Résolvez les erreurs inattendues ou les modifications d’acheminement avant de comparer les coûts.
3
Vérifier la couverture tarifaire
Vérifiez que les modèles à comparer présentent une couverture tarifaire similaire, afin que la comparaison des coûts de l’étape suivante reflète fidèlement les deux modèles. Lorsque l’interface ne trouve pas de prix, ajoutez-en un manuellement dans les paramètres du fournisseur ou du modèle fine-tuné.
4
Comparer les coûts des modèles
Dans le calculateur de coûts, sélectionnez un modèle de comparaison. Examinez le coût estimé et les économies que vous auriez réalisées si tout le trafic de la période sélectionnée avait utilisé ce modèle.Considérez ce résultat comme une estimation. Utilisez des évaluations et des métriques applicatives pour vérifier qu’un modèle moins coûteux préserve la qualité requise par votre application.
5
Surveiller un déploiement progressif
Après avoir modifié l’acheminement, vérifiez que le candidat reçoit la part prévue, que les erreurs restent stables et que le coût estimé évolue dans le sens attendu.
Métriques et tarification d’Analytics
Découvrez comment l’interface calcule les vues du trafic, des jetons, des erreurs et des coûts.