ID de modèle

L’ID de modèle RouteAPI est le nom que votre application renseigne dans le champ model. Il constitue un contrat public entre le système métier et RouteAPI.

Pourquoi un ID de modèle stable est nécessaire

• Lorsque la plateforme ajuste la disponibilité des modèles, le code applicatif n’a pas besoin d’être modifié fréquemment.
• L’équipe peut utiliser de manière unifiée un ensemble de noms de modèles approuvés.
• Les journaux, la facturation et les alertes sont plus faciles à lire.
• La configuration client est plus simple dans les différents SDK et outils.

Exemple

{
  "model": "gpt-4o",
  "messages": [
    { "role": "user", "content": "Résume ce document." }
  ]
}

La valeur de model doit correspondre à un ID de modèle disponible pour le compte actuel dans la console RouteAPI.

Bonnes pratiques

• Utilisez les ID de modèle de la console et n’encodez pas de noms temporaires en dur en production.
• Conservez des ID de modèle différents selon les attentes de qualité, de latence ou de coût.
• Validez le comportement du modèle avant de l’utiliser dans un flux de production.
• Après modification de l’ID de modèle dans une application à fort trafic, consultez les journaux d’utilisation pour confirmer l’effet.