Crée une fin de chat

Envoyer des messages

Appelez POST /v1/chat/complétions avec l'identificateur exact du modèle de catalogue et un tableau de messages. Conservez les instructions concises et validez les entrées d'application avant de les envoyer.

const result = await client.chat.completions.create({
  model: 'MODEL_ID_FROM_CATALOG',
  messages: [{ role: 'user', content: 'Summarize this text.' }],
})

Poignez le streaming délibérément

Définir le flux à true seulement lorsque le modèle sélectionné et le chemin client le supportent. Accumuler la sortie partielle en toute sécurité, gérer les déconnexions, et ne pas supposer qu'un flux échoué peut être réétudié sans travail en double.

Identificateurs des demandes d'enregistrement

Enregistrez l'identificateur de demande HippoAPI avec votre trace interne, pas le API key ou l'invite complète sensible. L'identificateur, le temps, le paramètre, le modèle et l'état sont les champs les plus utiles pour le dépannage.