Vue d'ensemble du routage

RouteAPI fournit aux systèmes métier un point d’entrée unifié pour appeler les modèles IA. Votre équipe peut continuer à utiliser les API compatibles OpenAI qu’elle connaît, tandis que RouteAPI prend en charge la validation des requêtes, le choix du modèle, la protection de disponibilité et l’enregistrement de l’utilisation.

Ce que cela signifie pour les systèmes métier

• Les requêtes de production utilisent une Base URL unique.
• Le code applicatif utilise des ID de modèle stables.
• Lorsqu’un service de modèle est temporairement indisponible, la plateforme fournit un mécanisme de protection.
• Les journaux d’utilisation permettent de diagnostiquer les problèmes, d’auditer les requêtes et d’analyser les coûts.
• Les capacités courantes comme la sortie en streaming, les appels d’outils, la compréhension visuelle et les sorties structurées sont prises en charge.

Flux de requête

1. Le client envoie une requête avec une API Key et un ID de modèle.
2. RouteAPI valide la requête et les droits d’accès du compte.
3. RouteAPI choisit un service de modèle adapté aux capacités nécessaires.
4. RouteAPI envoie la requête et renvoie la réponse au format attendu par le client.
5. RouteAPI enregistre l’utilisation, la latence et les erreurs pour consultation ultérieure.

Lectures recommandées

• Routage des requêtes - Comment RouteAPI envoie les requêtes.
• ID de modèle - Comment garder des noms de modèle stables dans le code.
• Protection en cas d’échec - Ce qui se passe lorsqu’un service de modèle est indisponible.
• Compatibilité des paramètres - Comment utiliser les paramètres avancés de requête en toute sécurité.