Fournisseurs - CoreWeave Docs

Un fournisseur stocke une URL de base d’API compatible avec OpenAI ainsi que l’identifiant d’authentification associé, pour une entity W&B. L’acheminement, le réétiquetage et les évaluations désignent les modèles sous la forme {provider}/{model}.

Enregistrer un fournisseur

Ouvrez le menu de l’entity, choisissez Fournisseurs, puis renseignez les champs suivants :

Name : identifiant en minuscules utilisé dans chaque référence de modèle, par exemple openai ou openrouter.
Base URL : la racine exacte de l’API compatible avec OpenAI, y compris tout préfixe de chemin requis tel que /v1, sans paramètres de requête ni identifiants d’authentification intégrés.
API key : chiffrée avant stockage et jamais renvoyée.

Les fournisseurs hébergés sont publiés de manière asynchrone sur le proxy Cloudflare. Un fournisseur est prêt à recevoir des requêtes acheminées lorsque son déploiement est à l’état Applied pour la révision actuelle.

API : Enregistrer un fournisseur (PUT /providers/{provider})

Le nom du fournisseur correspond au dernier segment de l’URL. Cet exemple enregistre openai :

curl --request PUT \
  --url "https://distillation.training.wandb.ai/v1/providers/openai" \
  --header "Authorization: Bearer $WANDB_API_KEY" \
  --header "Wandb-Entity: your-team" \
  --header "Content-Type: application/json" \
  --data "{
    \"base_url\": \"https://api.openai.com/v1\",
    \"api_key\": \"$OPENAI_API_KEY\"
  }"

Interrogez GET /providers/openai jusqu’à ce que son déploiement passe à l’état applied. Voir Créer un fournisseur ou faire pivoter sa clé.

L’interface utilise POST /responses pour le fournisseur openai afin que le réétiquetage et les évaluations conservent le comportement d’OpenAI en matière de raisonnement et d’appels d’outils. Les autres fournisseurs doivent implémenter le point de terminaison POST /chat/completions compatible avec OpenAI.

Activer les ID de modèles

Développez la liste des modèles d’un fournisseur pour :

activer ou désactiver des modèles connus dans les sélecteurs de l’interface utilisateur ;
ajouter un ID de modèle personnalisé exposé par ce fournisseur ;
définir des prix facultatifs d’entrée et de sortie, en USD par million de jetons.

L’activation d’un modèle détermine sa visibilité dans l’interface utilisateur, et non les autorisations à l’exécution. Les références d’acheminement existantes peuvent toujours être appelées, même lorsqu’une entrée du catalogue est désactivée.

`wandb-inference` intégré

Chaque entity dispose d’un fournisseur système nommé wandb-inference. Celui-ci utilise la clé W&B de l’appelant au lieu de stocker un identifiant d’authentification supplémentaire. Utilisez-le pour les modèles du catalogue hébergés par W&B et les artifacts affinés. Vous pouvez enregistrer explicitement un fournisseur sous ce même nom afin de remplacer le comportement de transmission directe par un identifiant d’authentification stocké. Si vous supprimez cette redéfinition, le fournisseur système est rétabli lors de sa prochaine utilisation.

Faire pivoter ou supprimer un fournisseur

Soumettre de nouveau le formulaire du fournisseur fait pivoter son URL ou sa clé et publie une nouvelle révision. Les routes et les évaluations qui y font référence continuent d’utiliser le nom du fournisseur. La suppression est impossible tant que le fournisseur est référencé par une configuration d’acheminement, de réétiquetage ou d’évaluation. Retirez d’abord ces références pour éviter qu’un projet actif ne se retrouve orphelin sans que personne ne s’en aperçoive.

​Enregistrer un fournisseur

​Activer les ID de modèles

​wandb-inference intégré

​Faire pivoter ou supprimer un fournisseur

Enregistrer un fournisseur

Activer les ID de modèles

`wandb-inference` intégré

Faire pivoter ou supprimer un fournisseur