オープンモデル
主要なオープンソースのテキスト・画像・動画モデルに対応します。ComfyUI ワークフローは API サービスとして提供できます。
例 · DeepSeek · Qwen · GLM · Kimi · Llama · Wan · ComfyUI ワークフロー
お客様のモデルを専用 GPU に。運用は RouteAPI が担います
GPU の構成検討、サーバー調達からモデルのデプロイ、本番稼働後の運用まで一貫して提供するプライベート LLM デプロイサービスです。お客様の既存サーバーへのデプロイにも対応します。
- オープンモデルと自社モデルに対応
- サーバーは当社調達・お客様ご用意のどちらも可
- 導入後も継続して運用
- 月間稼働率 99.9%
- お客様お客様のアプリケーションOpenAI 互換 API を呼び出し
- RouteAPI運用監視、アップグレード、障害対応
- RouteAPIモデル推論推論エンジン、量子化、スケーリング
- RouteAPI またはお客様GPU サーバーモデルとトラフィックに合わせて構成
オープンモデルも自社モデルもデプロイできます
モデルのライセンスが許す範囲で、オープンモデルとお客様独自のモデルのいずれも本番環境にデプロイできます。
お客様独自のモデル
ファインチューニング済みモデル、LoRA、自社開発モデルに対応します。お客様から重みをご提供いただき、当社がデプロイと本番稼働を行います。
学習はお客様 · デプロイと運用は当社
本サービスにモデルの学習およびファインチューニングは含まれません。プロジェクトで必要となる場合は、要件のヒアリング段階でお伝えします。
構成検討から運用まで、同じチームが担当します
構成検討、デプロイ、本番稼働後の運用を同じエンジニアが担当し、営業時間外の障害対応も行います。
検討
モデル、リクエスト量、レイテンシ要件、データ上の制約をもとに、必要な GPU の仕様と台数を見積もり、デプロイ計画を策定します。
成果物 · 構成一覧とお見積もり
ハードウェア
当社がサーバーを調達してデータセンターに設置するか、お客様の既存サーバーやクラウドアカウントを利用します。
成果物 · 確定したハードウェア構成
デプロイ
推論環境の構築、性能チューニング、スケーリング設定を行い、本番稼働前に実際のトラフィックを想定した負荷試験を実施します。
成果物 · 利用可能な API エンドポイント
運用
監視とアラート、バージョンアップ、モデル更新、障害対応を提供します。SLA は月間稼働率 99.9% です。
成果物 · 専任のサポートチーム
2 つのハードウェアプラン
いずれのプランでも、ソフトウェア層のデプロイと運用は当社が担当し、SLA を負います。
| RouteAPI が調達 | お客様がご用意 | |
|---|---|---|
| サーバーの所有 | 当該デプロイのために当社が調達 | お客様所有（オンプレミスまたはクラウドアカウント） |
| 設置場所 | 当社が手配するデータセンター（リージョンはお客様が選択） | お客様のデータセンターまたはクラウドリージョン |
| 料金体系 | ハードウェアと運用をまとめた月額料金 | デプロイ費用＋運用費用 |
| 適したケース | 初期のハードウェア投資を避けたい場合 | 計算資源をすでにお持ちの場合、またはデータを自社環境外に出せない場合 |
独立したデプロイ。必要に応じてパブリックモデルにも接続できます
デプロイはお客様の所有物として独立して稼働し、RouteAPI プラットフォームを経由しません。RouteAPI は 70 以上のパブリックモデルに接続するゲートウェイも提供しており、必要に応じてご相談のうえ両者を連携できます。
- 既定では、すべてのリクエストを専用デプロイのみで処理
- 複雑なタスクを GPT、Claude、Gemini にルーティングすることも可能
- フェイルオーバーの方針はお客様が決定し、無効にすることも可能
適したケース
当社は少人数のチームです。ご検討の参考として、本サービスが適するケースと適さないケースを以下にまとめました。
適している
- 呼び出し量が多く安定しているため、専用 GPU のほうがトークン課金より低コストになる
- データやモデルの重みを分離する必要があり、共有環境では稼働させられない
- モデルの学習を終えており、本番環境へのデプロイが必要
- 専任の運用チームがなく、GPU を 24 時間 365 日稼働させる体制がない
適していない
- モデルの学習やファインチューニング。本サービスはデプロイのみを提供します。
- 呼び出し量が少ない、または変動が大きい。従量課金 API のほうが低コストです。
- 数千枚規模の GPU クラスター。大規模な GPU クラウド事業者のご利用をおすすめします。
はい。お客様のオンプレミス環境やクラウドアカウントにデプロイできます。当社がサーバーを調達してホスティングすることも可能です。
専用デプロイの API の月間稼働率が対象です。ダウンタイムの算定方法とサービスクレジットはデプロイ契約で定めます。
いいえ。専用デプロイは独立して稼働します。パブリックモデルへの接続やフェイルオーバーの設定をご希望の場合は、別途ご相談のうえ決定します。
当該デプロイの運用を担当する RouteAPI のエンジニアに限られます。お客様の重み、プロンプト、出力をモデルの学習に使用することはありません。
構成検討の後、ハードウェア構成、モデル、運用レベルに応じてデプロイごとにお見積もりします。専用デプロイにトークン課金はありません。