> ## Documentation Index
> Fetch the complete documentation index at: https://docs.coreweave.com/llms.txt
> Use this file to discover all available pages before exploring further.

# Aperçu du proxy d’inférence

> Utilisez un point de terminaison unique compatible avec OpenAI pour l’acheminement vers les projets, les identifiants d’authentification des fournisseurs et la capture des traces.

Le proxy d’inférence est le seul composant situé sur le chemin en ligne de votre application. Il expose :

```text theme={"system"}
POST https://proxy.training.wandb.ai/v1/chat/completions
Authorization: Bearer <wandb-api-key>
```

Votre client OpenAI existant fonctionne toujours. La valeur `model` détermine si la requête passe par l’acheminement du projet ou appelle directement un fournisseur enregistré.

<h2 id="what-the-proxy-adds">
  Ce qu’apporte le proxy
</h2>

<CardGroup cols={2}>
  <Card title="Acheminement par projet" icon="shuffle">
    Résoudre une version de projet, choisir une cible pondérée, appliquer ses paramètres et maintenir l’affinité des conversations.
  </Card>

  <Card title="Isolation des identifiants d’authentification" icon="key">
    Remplacer la clé bearer W\&B par l’identifiant d’authentification du fournisseur sélectionné, sans transmettre les en-têtes du client.
  </Card>

  <Card title="Traces exploitables pour l’entraînement" icon="wave-square">
    Enregistrer l’intégralité de la requête envoyée et de la réponse, avec l’identité du projet et du fournisseur.
  </Card>

  <Card title="Transport compatible avec OpenAI" icon="code">
    Préserver le comportement des réponses de complétion de chat, avec ou sans streaming.
  </Card>
</CardGroup>

<h2 id="supported-routes">
  Routes prises en charge
</h2>

| Valeur `model` | Résultat |
| - | - |
| `proxy-model-name` | Acheminement pondéré pour la version 1 du projet |
| `proxy-model-name@v2` | Acheminement pondéré épinglé à la version 2 |
| `provider/model-id` | Appel direct via un fournisseur enregistré |

Les requêtes de projet sont tracées automatiquement. Les appels directs aux fournisseurs ne sont pas tracés, sauf si `metadata["wandb.project"]` sélectionne une destination.

Les requêtes de projet sans streaming peuvent également activer la [mise en cache des réponses exactes](/fr/model-distillation/proxy/response-caching) à l’aide de l’en-tête `wandb-cache-mode`, qui renvoie une réponse antérieure identique au lieu d’appeler le fournisseur.

<Accordion title="API : Envoyer une requête acheminée par projet (POST /chat/completions)">
  ```bash theme={"system"}
  curl --request POST \
    --url "https://proxy.training.wandb.ai/v1/chat/completions" \
    --header "Authorization: Bearer $WANDB_API_KEY" \
    --header "Content-Type: application/json" \
    --data '{
      "model": "ticket-classifier",
      "messages": [{"role": "user", "content": "Classify this request"}],
      "metadata": {"wandb.entity": "your-team"}
    }'
  ```

  Consultez [Créer une complétion de chat acheminée](/fr/model-distillation/reference/proxy/chat-completions/create-a-routed-chat-completion) pour obtenir le schéma complet de la requête et de la réponse.
</Accordion>

<h2 id="fail-closed-behavior">
  Comportement de refus par défaut (fail closed)
</h2>

Le proxy rejette les clés W\&B, les entities, les projets, les versions et les fournisseurs inconnus avant d’appeler un point de terminaison arbitraire. Les URL et les identifiants d’authentification des fournisseurs proviennent exclusivement de la matérialisation gérée côté serveur ; les appelants ne peuvent pas les fournir via les en-têtes de requête ou les jetons.


## Related topics

- [API du proxy d’inférence](/fr/model-distillation/reference/proxy.md)