Activer le mode JSON

Configurez le mode JSON dans Serverless Inference pour obtenir une sortie JSON structurée à partir des réponses du modèle, afin de faciliter l’analyse.

Le mode JSON est utile lorsque vous devez analyser par programmation les réponses du modèle sans avoir à gérer du texte libre. L’activation du mode JSON demande au modèle de renvoyer la réponse dans un format JSON valide, ce qui facilite l’utilisation de la sortie dans le code en aval. Cependant, le schéma de la réponse n’est pas garanti comme cohérent ni conforme à une structure donnée. Pour obtenir des réponses JSON structurées cohérentes, nous vous recommandons d’utiliser la sortie structurée lorsque c’est possible.

Pour activer le mode JSON, indiquez-le comme valeur de response_format dans la requête :

Python

import json
import openai

client = openai.OpenAI(
    base_url='https://api.inference.wandb.ai/v1',
    api_key="[YOUR-API-KEY]",  # Créez une clé API sur https://wandb.ai/settings
)

response = client.chat.completions.create(
    model="openai/gpt-oss-20b",
    messages=[
        {"role": "system", "content": "You are a helpful assistant that outputs JSON."},
        {"role": "user", "content": "Give me a list of three fruits with their colors."},
    ],
    response_format={"type": "json_object"}  # Ceci active le mode JSON
)

content = response.choices[0].message.content
parsed = json.loads(content)
print(parsed)

Bash

curl https://api.inference.wandb.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer [YOUR-API-KEY]" \
  -d '{
    "model": "openai/gpt-oss-20b",
    "messages": [
        {"role": "system", "content": "You are a helpful assistant that outputs JSON."},
        {"role": "user", "content": "Give me a list of three fruits with their colors."},
    ],
    "response_format": {"type": "json_object"}
  }'