障害保護
AI モデルサービスは、まれにエラー、タイムアウト、一時的な利用不可を返すことがあります。RouteAPI は安全な場合にリクエスト処理の継続を試み、安全に完了できない場合は明確なエラー情報を返します。
保護対象となるケース
Section titled “保護対象となるケース”| シナリオ | 期待される動作 |
|---|---|
| モデルサービスの一時的なエラー | RouteAPI は安全な場合に処理継続を試みます。 |
| レスポンス開始前のタイムアウト | RouteAPI は他の利用可能なサービス経路の使用を試みる場合があります。 |
| モデルサービスのレート制限 | 適切な選択肢がある場合、RouteAPI は処理を継続します。 |
| リクエストパラメータが無効 | RouteAPI はエラーを返し、クライアントに修正を促します。 |
| アカウント残高または権限の問題 | RouteAPI はアカウントレベルのエラーを返します。 |
開発者向けの注意事項
Section titled “開発者向けの注意事項”- 非ストリーミングのテキストリクエストは、再試行に最も適しています。
- ストリーミングリクエストは、出力開始前に限って再試行するべきです。
- 外部アクションを起動するリクエストは、冪等に設計してください。
- クライアント側でも HTTP エラーを処理し、ユーザーに明確な案内を表示する必要があります。
推奨されるクライアント動作
Section titled “推奨されるクライアント動作”- 適切なリクエストタイムアウトを設定します。
- 問題調査時には RouteAPI リクエスト ID を記録します。
- 業務上、冪等であることを確認できる操作に限ってクライアント側で再試行します。
- サービスエラーが繰り返し発生する場合は、リクエスト ID を添えてサポートへ連絡してください。