開源模型
支援主流開源的文字、影像與影片模型，ComfyUI 工作流程可封裝為 API 服務。
例如 · DeepSeek · Qwen · GLM · Kimi · Llama · Wan · ComfyUI 工作流程
開源模型、自有模型，皆可部署
在模型授權條款允許的前提下，開源模型與客戶自有模型皆可部署至正式環境。
客戶自有模型
支援微調模型、LoRA 及客戶自研模型。客戶提供權重，我們完成部署與上線。
客戶負責訓練 · 我們負責部署與維運
本服務不包含模型訓練與微調。如專案涉及此類需求，我們會在需求溝通階段說明。
從評估到維運，同一團隊全程負責
方案評估、部署實施與上線後的維運由同一組工程師負責，包括非上班時間的故障回應。
評估
依據模型、請求量、延遲要求與資料限制，評估所需 GPU 規格與數量，制定部署方案。
交付項目 · 配置清單與報價
硬體
由我們採購伺服器並安排機房託管，或使用客戶既有的伺服器、雲端帳號。
交付項目 · 確定的硬體方案
部署
完成推論環境建置、效能調校與擴縮容設定，上線前依實際流量進行壓力測試。
交付項目 · 可呼叫的 API 介面
維運
提供監控告警、版本升級、模型更新與故障處理，每月可用性 SLA 為 99.9%。
交付項目 · 專屬技術支援團隊
兩種硬體方案
無論採用哪種方案，軟體層的部署與維運皆由我們負責，並承擔相應 SLA。
| RouteAPI 採購 | 客戶自備 | |
|---|---|---|
| 伺服器歸屬 | 由我們為該部署專門採購 | 客戶自有，本地機房或雲端帳號 |
| 部署位置 | 我們安排的資料中心，區域由客戶選定 | 客戶的機房或雲端區域 |
| 計費方式 | 硬體與維運合併，按月計費 | 部署費 + 維運費 |
| 適用情境 | 希望避免一次性硬體投資 | 已有算力資源，或資料不得離開自有環境 |
獨立部署，可依需求接入公有模型
私有化部署歸客戶所有，獨立運行，不經過 RouteAPI 平台。RouteAPI 同時提供涵蓋 70+ 公有模型的閘道服務，如有需要，可協商串接兩者。
- 預設所有請求僅由私有化部署處理
- 可將複雜任務路由至 GPT、Claude 或 Gemini
- 故障切換策略由客戶決定，可選擇不啟用
適用情境
我們是一支精簡的團隊，以下列出適合與不適合本服務的情境，供評估參考。
適合
- 呼叫量大且穩定，專屬 GPU 的成本低於按 token 計費
- 資料或模型權重需要隔離，不能運行在共享環境中
- 已完成模型訓練，需要部署至正式環境
- 缺少專職維運團隊，無法確保 GPU 全天候運行
不適合
- 模型訓練或微調。本服務僅提供部署。
- 呼叫量小或波動大。按量計費 API 成本更低。
- 千卡級叢集。較適合選擇大型 GPU 雲端服務商。
可以。支援部署在客戶的本地機房或雲端帳號中，也可以由我們採購並託管伺服器。
涵蓋私有化部署介面的每月可用性。停機的計算方式與服務補償於部署合約中約定。
不會。私有化部署獨立運行。如需接入公有模型或設定故障切換，可另行協商。
僅限負責該部署的維運工程師。我們不會使用客戶的權重、提示詞或輸出內容訓練模型。
評估完成後依部署個別報價，取決於硬體配置、模型與維運等級。私有化部署不按 token 計費。