curl --request POST \
  --url https://proxy.training.coreweave.com/v1/chat/completions \
  --header 'Authorization: Bearer <token>' \
  --header 'Content-Type: application/json' \
  --data '
{
  "model": "router",
  "messages": [
    {
      "role": "user",
      "content": "Classify this support request."
    }
  ],
  "metadata": {
    "forge.project_version": "2",
    "gen_ai.conversation.id": "conversation-4827"
  }
}
'

{
  "id": "<string>",
  "object": "<string>",
  "created": 0,
  "model": "<string>",
  "choices": [
    {
      "index": 0,
      "message": {},
      "finish_reason": "<string>"
    }
  ],
  "usage": {}
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

Créer une complétion de chat acheminée

Envoyez OpenAI-Project: entity/project pour sélectionner un projet Model Distillation et metadata["forge.project_version"] pour sélectionner une version (omettez ce champ pour v1). Omettez model, laissez-le vide ou utilisez router pour appliquer l’acheminement configuré. Définissez model sur provider/model pour remplacer le modèle tout en conservant l’attribution au projet, l’échantillonnage des traces de conversation et la mise en cache sur activation explicite. Les requêtes de remplacement utilisent le fournisseur enregistré et les paramètres de l’appelant, et non les valeurs par défaut ou de remplacement des paramètres des cibles pondérées. Les en-têtes non valides sont rejetés sans mécanisme de repli.

POST

chat

completions

curl --request POST \
  --url https://proxy.training.coreweave.com/v1/chat/completions \
  --header 'Authorization: Bearer <token>' \
  --header 'Content-Type: application/json' \
  --data '
{
  "model": "router",
  "messages": [
    {
      "role": "user",
      "content": "Classify this support request."
    }
  ],
  "metadata": {
    "forge.project_version": "2",
    "gen_ai.conversation.id": "conversation-4827"
  }
}
'

{
  "id": "<string>",
  "object": "<string>",
  "created": 0,
  "model": "<string>",
  "choices": [
    {
      "index": 0,
      "message": {},
      "finish_reason": "<string>"
    }
  ],
  "usage": {}
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

Autorisations

Authorization

string

header

requis

Clé API W&B dont l’entity personnelle ou par défaut, ou les équipes associées, possèdent la tâche et les fournisseurs sélectionnés.

En-têtes

OpenAI-Project

string

entity/projet Weights & Biases auquel appartient la configuration d’acheminement. L’appelant doit avoir accès à l’entity. Les projets inconnus renvoient 404. Le projet validé est transmis à Serverless Inference à des fins d’attribution.

Exemple:

"my-team/my-project"

Forge-Cache-Mode

enum<string>

Activez la mise en cache des réponses exactes pour une requête de projet sans diffusion en continu. L’identité du cache comprend la version du projet, la révision de l’acheminement, le corps effectif de la requête en amont et les paramètres de chemin et de requête transmis. Les remplacements de modèle sont également isolés selon la configuration du fournisseur, le modèle et l’identité utilisateur transmise telle quelle. readWrite lit et alimente le cache, readOnly le lit sans l’alimenter, et writeOnly l’alimente sans le lire. Seules les réponses réussies d’une taille maximale de 8 Mio sont stockées. Les valeurs non valides entraînent le renvoi du code HTTP 400. La mise en cache des réponses n’est pas prise en charge pour les requêtes en diffusion en continu.

Options disponibles:

readWrite,

readOnly,

writeOnly

Corps

application/json

messages

object[]

requis

Minimum array length: 1

Show child attributes

model

string

Avec OpenAI-Project, omettez ce champ, laissez-le vide ou utilisez router pour appliquer l’acheminement configuré. Utilisez {provider}/{model-id} pour remplacer le modèle au sein du projet.

metadata

object

Show child attributes

stream

boolean

défaut:false

temperature

number

tools

object[]

Show child attributes

tool_choice

any

response_format

object

Show child attributes

reasoning_effort

string

max_tokens

integer

Plage requise: 1 <= x <= 9007199254740991

max_completion_tokens

integer

Plage requise: 1 <= x <= 9007199254740991

{key}

any

Réponse

Réponse du fournisseur. Les requêtes en streaming renvoient des événements envoyés par le serveur et se terminent par [DONE].

string

object

string

created

integer

Plage requise: -9007199254740991 <= x <= 9007199254740991

model

string

choices

object[]

Show child attributes

usage

object

Show child attributes

{key}

any

Dernière modification le 30 septembre 2026