コンテンツにスキップ

障害保護

AI モデルサービスは、まれにエラー、タイムアウト、一時的な利用不可を返すことがあります。RouteAPI は安全な場合にリクエスト処理の継続を試み、安全に完了できない場合は明確なエラー情報を返します。

シナリオ期待される動作
モデルサービスの一時的なエラーRouteAPI は安全な場合に処理継続を試みます。
レスポンス開始前のタイムアウトRouteAPI は他の利用可能なサービス経路の使用を試みる場合があります。
モデルサービスのレート制限適切な選択肢がある場合、RouteAPI は処理を継続します。
リクエストパラメータが無効RouteAPI はエラーを返し、クライアントに修正を促します。
アカウント残高または権限の問題RouteAPI はアカウントレベルのエラーを返します。
  • 非ストリーミングのテキストリクエストは、再試行に最も適しています。
  • ストリーミングリクエストは、出力開始前に限って再試行するべきです。
  • 外部アクションを起動するリクエストは、冪等に設計してください。
  • クライアント側でも HTTP エラーを処理し、ユーザーに明確な案内を表示する必要があります。
  1. 適切なリクエストタイムアウトを設定します。
  2. 問題調査時には RouteAPI リクエスト ID を記録します。
  3. 業務上、冪等であることを確認できる操作に限ってクライアント側で再試行します。
  4. サービスエラーが繰り返し発生する場合は、リクエスト ID を添えてサポートへ連絡してください。