Routage des requêtes
RouteAPI permet aux systèmes métier d’appeler un seul point d’entrée API unifié. La plateforme effectue en arrière-plan la sélection du service, la vérification de disponibilité et l’envoi de la requête.
Ce que vous devez configurer
Section intitulée « Ce que vous devez configurer »La plupart des usages métier doivent seulement se concentrer sur :
- L’ID de modèle RouteAPI utilisé dans la requête.
- L’utilisation ou non de la sortie en streaming.
- Le besoin éventuel d’appels d’outils, de compréhension visuelle, de sorties structurées ou d’autres capacités optionnelles.
- L’API Key et les limites d’utilisation.
La plateforme utilise ces informations pour envoyer la requête vers un service de modèle adapté.
Flux de traitement de la requête
Section intitulée « Flux de traitement de la requête »- RouteAPI valide l’API Key et les droits du compte.
- RouteAPI lit l’ID de modèle dans la requête.
- RouteAPI détermine si la requête nécessite des capacités particulières.
- RouteAPI envoie la requête via une voie de service disponible.
- RouteAPI renvoie le résultat selon le protocole attendu par le client.
Votre code métier n’a pas besoin d’exposer les détails des services internes.
Recommandations d’utilisation
Section intitulée « Recommandations d’utilisation »- Gardez les ID de modèle stables dans le code métier.
- Vérifiez les capacités prises en charge dans la liste des modèles de la console.
- Testez les flux importants avec le même format de requête que l’environnement de production.
- Pour analyser la latence, les erreurs ou les coûts, consultez d’abord les journaux d’utilisation.