路由概覽
RouteAPI 為業務系統提供統一的 AI 模型調用入口。你的團隊可以繼續使用熟悉的 OpenAI 兼容 API,同時由 RouteAPI 負責請求校驗、模型選擇、可用性保護和用量記錄。
對業務系統意味著什麼
Section titled “對業務系統意味著什麼”- 生產請求使用一個統一 Base URL。
- 應用代碼中使用穩定的模型 ID。
- 當模型服務短暫不可用時,平臺提供保護機制。
- 通過用量日誌排查問題、審計請求和分析成本。
- 支持流式輸出、工具調用、視覺理解、結構化輸出等常見能力。
- 客戶端攜帶 API Key 和模型 ID 發送請求。
- RouteAPI 校驗請求和賬戶訪問權限。
- RouteAPI 根據所需能力選擇合適的模型服務。
- RouteAPI 發送請求,並按客戶端期望的格式返回響應。
- RouteAPI 記錄用量、延遲和錯誤信息,便於後續查看。