モデルサービス異常の調査

RouteAPI がサービス側エラーを返す場合、問題は多くの場合、モデルサービスの状態、リクエストパラメータ、またはアカウントの利用可能クレジットに関係しています。

チェックリスト

1. モデルサービスがまだ利用可能か。
2. アカウント残高またはクレジットが十分か。
3. 現在のサービスレート制限を超えていないか。
4. リクエストパラメータがモデルサービスに拒否されていないか。
5. モデル ID がまだ利用可能リストにあるか。
6. 少し待ってから再試行できるか、または他の利用可能なモデルへ切り替えられるか。

運用上の推奨事項

• 重要な業務にはヘルスチェックを設定します。
• サービス側エラーの原文を記録しますが、キーを漏えいしないようにしてください。
• 連続して失敗するサービスリクエストにはクールダウンとアラートを設定します。
• 本番シナリオ向けに代替モデル案を用意します。