Защита от сбоев
Les services de modèles IA peuvent parfois renvoyer des erreurs, expirer ou devenir temporairement indisponibles. RouteAPI tente de poursuivre le traitement lorsque c’est sûr, et renvoie une erreur claire lorsqu’une requête ne peut pas être terminée en sécurité.
Situations protégées
Section titled “Situations protégées”| Scénario | Comportement attendu |
|---|---|
| Erreur temporaire du service de modèle | RouteAPI tente de continuer le traitement lorsque c’est sûr. |
| Таймаут до начала ответа | RouteAPI может попробовать другой доступный сервисный путь. |
| Limitation du service de modèle | Si une option adaptée existe, RouteAPI continue le traitement. |
| Paramètres de requête invalides | RouteAPI renvoie une erreur et invite le client à corriger la requête. |
| Solde du compte ou problème de permission | RouteAPI renvoie une erreur au niveau du compte. |
Points d’attention pour les développeurs
Section titled “Points d’attention pour les développeurs”- Les requêtes texte non streaming sont les plus adaptées aux nouvelles tentatives.
- Les requêtes streaming ne doivent être retentées qu’avant le début de la sortie.
- Les requêtes qui déclenchent des actions externes doivent être conçues comme idempotentes.
- Les clients doivent toujours gérer les erreurs HTTP et afficher des messages clairs aux utilisateurs.
Comportement client recommandé
Section titled “Comportement client recommandé”- Установите разумный таймаут запроса.
- Enregistrer l’ID de requête RouteAPI lors du diagnostic.
- Повторяйте на клиенте только операции, подтвержденные как идемпотентные.
- Si des erreurs de service se répètent, contactez le support avec l’ID de requête.