Activer la sortie structurée

La sortie structurée contraint les réponses de Serverless Inference à respecter un schéma JSON précis, ce qui garantit que la réponse du modèle est conforme aux champs et aux types que vous définissez. Utilisez la sortie structurée lorsque votre application doit analyser les réponses du modèle pour en extraire des champs connus, par exemple pour l’extraction de données, le remplissage de formulaires ou un traitement en aval. La sortie structurée est similaire au mode JSON, mais elle impose en plus le schéma que vous spécifiez. Dans la mesure du possible, privilégiez la sortie structurée plutôt que le mode JSON. Pour activer la sortie structurée, spécifiez json_schema comme type de response_format dans la requête. L’exemple suivant extrait les détails d’un événement selon un schéma défini :

Python
Bash

import json
import openai

client = openai.OpenAI(
    base_url='https://api.inference.wandb.ai/v1',
    api_key="[YOUR-API-KEY]",  # Créez une clé API sur https://forge.coreweave.com/settings
)

response = client.chat.completions.create(
    model="openai/gpt-oss-20b",
    messages=[
        {"role": "system", "content": "Extract the event information."},
        {"role": "user", "content": "Alice and Bob are going to a science fair on Friday."},
    ],
    response_format={
        "type": "json_schema",
        "json_schema": {
            "name": "CalendarEventResponse",
            "strict": True,
            "schema": {
                "type": "object",
                "properties": {
                    "name": {"type": "string"},
                    "date": {"type": "string"},
                    "participants": {"type": "array", "items": {"type": "string"}},
                },
                "required": ["name", "date", "participants"],
                "additionalProperties": False,
            },
        },
    },
)

content = response.choices[0].message.content
parsed = json.loads(content)
print(parsed)

curl https://api.inference.wandb.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer [YOUR-API-KEY]" \
  -d '{
    "model": "openai/gpt-oss-20b",
    "messages": [
        {"role": "system", "content": "Extract the event information."},
        {"role": "user", "content": "Alice and Bob are going to a science fair on Friday."},
    ],
    "response_format": {
        "type": "json_schema",
        "json_schema": {
            "name": "CalendarEventResponse",
            "strict": True,
            "schema": {
                "type": "object",
                "properties": {
                    "name": {"type": "string"},
                    "date": {"type": "string"},
                    "participants": {"type": "array", "items": {"type": "string"}},
                },
                "required": ["name", "date", "participants"],
                "additionalProperties": False,
            },
        },
    },
  }'