Отладка потоковой передачи

Les requêtes streaming impliquent trois couches : la connexion client, le relais RouteAPI et la réponse du service de modèle. Le diagnostic doit distinguer l’origine du problème.

Частые проблемы

Проблема	Возможная причина
Aucune sortie	Le client n’a pas activé stream ou le modèle actuel ne le prend pas en charge
Sortie interrompue	Expiration du service de modèle, coupure réseau ou connexion client fermée
Pas d’usage reçu	Le modèle actuel ne prend pas en charge stream_options.include_usage
Échec d’analyse JSON	Le client ne parse pas ligne par ligne en SSE

Рекомендации для клиента

• Lire data: ligne par ligne.
• Ignorer les lignes vides.
• Terminer après réception de [DONE].
• Analyser chaque chunk JSON séparément.
• Ne pas analyser toute la réponse comme un seul document JSON.