Créer une complétion de chat acheminée

curl --request POST \
  --url https://proxy.training.wandb.ai/v1/chat/completions \
  --header 'Authorization: Bearer <token>' \
  --header 'Content-Type: application/json' \
  --data '
{
  "model": "ticket-classifier",
  "messages": [
    {
      "role": "user",
      "content": "Classify this support request."
    }
  ],
  "metadata": {
    "wandb.entity": "your-team",
    "wandb.thread_id": "conversation-4827"
  }
}
'

{
  "id": "<string>",
  "object": "<string>",
  "created": 0,
  "model": "<string>",
  "choices": [
    {
      "index": 0,
      "message": {},
      "finish_reason": "<string>"
    }
  ],
  "usage": {}
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

POST

chat

completions

curl --request POST \
  --url https://proxy.training.wandb.ai/v1/chat/completions \
  --header 'Authorization: Bearer <token>' \
  --header 'Content-Type: application/json' \
  --data '
{
  "model": "ticket-classifier",
  "messages": [
    {
      "role": "user",
      "content": "Classify this support request."
    }
  ],
  "metadata": {
    "wandb.entity": "your-team",
    "wandb.thread_id": "conversation-4827"
  }
}
'

{
  "id": "<string>",
  "object": "<string>",
  "created": 0,
  "model": "<string>",
  "choices": [
    {
      "index": 0,
      "message": {},
      "finish_reason": "<string>"
    }
  ],
  "usage": {}
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

{
  "error": {
    "message": "<string>",
    "type": "proxy_error"
  }
}

Autorisations

Authorization

string

header

requis

Clé API W&B dont l’entity personnelle ou par défaut, ou les équipes associées, possèdent la tâche et les fournisseurs sélectionnés.

En-têtes

wandb-cache-mode

enum<string>

Activez la mise en cache des réponses exactes pour une requête sans streaming, acheminée par tâche ou envoyée directement à provider/model. L’identité du cache inclut le corps effectif de la requête envoyée au service amont ainsi que les paramètres de chemin et de requête transmis. Les requêtes directes sont également isolées selon l’entity, la configuration du fournisseur, le modèle, l’identité utilisateur transmise et tout projet W&B Inference transmis. readWrite lit et alimente le cache, readOnly lit sans l’alimenter et writeOnly l’alimente sans le lire. Seules les réponses réussies de 8 Mio maximum sont stockées. Les valeurs non valides entraînent une réponse HTTP 400. Si op-cache est également fourni, les deux en-têtes doivent spécifier le même mode. La mise en cache des réponses n’est pas prise en charge pour les requêtes en streaming.

Options disponibles:

readWrite,

readOnly,

writeOnly

op-cache

enum<string>

Alias compatible avec OpenPipe pour wandb-cache-mode. Il accepte les mêmes modes, et true équivaut à readWrite. Si les deux en-têtes sont fournis, ils doivent spécifier le même mode.

Options disponibles:

readWrite,

readOnly,

writeOnly,

true

Corps

application/json

model

string

requis

Alias de tâche, alias@vN ou {provider}/{model-id}.

Minimum string length: 1

messages

object[]

requis

Minimum array length: 1

Show child attributes

metadata

object

Show child attributes

stream

boolean

défaut:false

temperature

number

tools

object[]

Show child attributes

tool_choice

any

response_format

object

Show child attributes

reasoning_effort

string

max_tokens

integer

Plage requise: 1 <= x <= 9007199254740991

max_completion_tokens

integer

Plage requise: 1 <= x <= 9007199254740991

{key}

any

Réponse

Réponse du fournisseur. Les requêtes en streaming renvoient des événements envoyés par le serveur et se terminent par [DONE].

string

object

string

created

integer

Plage requise: -9007199254740991 <= x <= 9007199254740991

model

string

choices

object[]

Show child attributes

usage

object

Show child attributes

{key}

any

Dernière modification le 30 septembre 2026