コンテンツにスキップ

リクエストルーティング

RouteAPI を使うと、業務システムは 1 つの統一 API 入口だけを呼び出せばよくなります。プラットフォームはバックグラウンドでサービス選択、可用性チェック、リクエスト送信を行います。

多くの業務では、次の点だけを意識すれば十分です。

  • リクエストで使用する RouteAPI モデル ID。
  • ストリーミング出力を使用するかどうか。
  • ツール呼び出し、画像理解、構造化出力などの任意機能が必要かどうか。
  • API Key と使用量制限。

プラットフォームはこれらの情報に基づき、リクエストを適切なモデルサービスへ送信します。

  1. RouteAPI が API Key とアカウント権限を検証します。
  2. RouteAPI がリクエスト内のモデル ID を読み取ります。
  3. RouteAPI がリクエストに特殊な機能が必要かどうかを判断します。
  4. RouteAPI が利用可能なサービス経路を通じてリクエストを送信します。
  5. RouteAPI がクライアントの期待するプロトコルで結果を返します。

業務コードで内部サービスの詳細を公開する必要はありません。

  • 業務コード内ではモデル ID を安定させます。
  • コンソールのモデル一覧で対応機能を確認します。
  • 重要なフローは、本番環境と同じリクエスト形式で事前にテストします。
  • レイテンシ、エラー、コストを調査する場合は、まず使用量ログを確認します。