SLA доступности
99.9%
Запросы шлюза · месячное окно измерения
Месячная цель доступности для запросов шлюза.
LLM-ШЛЮЗ ДЛЯ ПРОДАКШЕНА
LLM-шлюзготовый к продакшену.
Получайте доступ к GPT, Claude, Gemini и более чем 50 моделям через единый API, совместимый с OpenAI, с настраиваемым резервированием провайдеров, контролем использования и видимостью каждого запроса.
- Совместимость с OpenAI
- Настраиваемый fallback
- Оплата по использованию
- Экономия до 25%
Один API для ведущих поставщиков моделей
Интеграция в три строки
Сохраните OpenAI-клиент. Измените Base URL.
RouteAPI использует интерфейс, совместимый с OpenAI, поэтому большинство интеграций сохраняют текущий SDK и обновляют API-ключ и Base URL.
Поддерживаемые возможности API могут различаться в зависимости от модели и upstream-провайдера.
Открыть документацию APImain.py
ДоИсходный
1from openai import OpenAI
2
3client = OpenAI(
4 api_key="sk-openai-key",# задайте ROUTEAPI_KEY в окружении
5)
6
7response = client.chat.completions.create(
8 model="gpt-4o",
9 messages=[{"role": "user", "content": "Hello"}],
10)
ПослеИзменённый
1from openai import OpenAI
2import os
3
4client = OpenAI(
5 api_key=os.environ["ROUTEAPI_KEY"],# задайте ROUTEAPI_KEY в окружении
6 base_url="https://www.routeapi.ai/v1",# направьте клиент в RouteAPI
7)
8
9response = client.chat.completions.create(
10 model="gpt-5.5",# используйте модель, доступную вашему аккаунту
11 messages=[{"role": "user", "content": "Hello"}],
12)
МНОГОМОДЕЛЬНЫЙ ДОСТУП
Один API для моделей, которые использует ваше приложение.
Отправляйте запросы через один endpoint, совместимый с OpenAI, выбирая нужную вашему приложению поддерживаемую модель.
RouteAPI
OpenAI
OpenAIAnthropic
AnthropicGoogle
GoogleDeepSeek
DeepSeekQwen
QwenMiniMax
MiniMaxMoonshot
MoonshotZhiPu
ZhiPuOther supported models
Other supported modelsМАРШРУТИЗАЦИЯ МОДЕЛЕЙ И ОТКАЗОУСТОЙЧИВОСТЬ
Один маршрут модели. Несколько путей провайдеров.
Выберите модель и настройте основного и резервного провайдера. RouteAPI отслеживает состояние каналов и направляет запросы по доступному пути согласно вашей политике.
Основной канал работает
Ваше приложение
RouteAPI
claude-sonnet5Выбранная модель: claude-sonnet5
Смоделируйте сбой провайдера, чтобы увидеть переход следующего запроса на настроенный резервный путь.
Приложение выбирает модель и отправляет запросы через RouteAPI. Порядок провайдеров настраиваете вы; RouteAPI отслеживает состояние каналов и использует основной или резервный путь по вашей политике. Сбой влияет на следующий запрос, но не переносит уже идущий потоковый ответ.
ЦЕНЫ МОДЕЛЕЙ В РЕАЛЬНОМ ВРЕМЕНИ
Актуальные цены и доступность моделей из каталога вашего workload.
25% ниже официальных цен API
Для наиболее используемых моделей из США
20% ниже официальных цен API
Для наиболее используемых моделей из Китая
Дополнительная комиссия платформы сверх указанного тарифа не взимается.
Принципы биллинга: Оплачивается только тарифицируемое использование завершённого запроса. Неудачный запрос без тарифицируемого использования не оплачивается; если запрос завершает настроенный fallback, использование оплачивается по показанному тарифу RouteAPI выбранной модели.
Плоскость управления
Управляйте AI-трафиком из единого операционного слоя.
Замените разрозненные эндпоинты провайдеров, учетные данные и операционные записи единым слоем управления с совместимостью OpenAI.
Платформенная инженерияКоманды AI-приложенийОперационная и финансовая команды
www.routeapi.ai/console
КонсольВсе маршруты работают
Входящие запросы
0
+12.4%Токены за сегодня
0
СегодняУспешность
0.00%
Попадания в кэш 86.4%Оценочная стоимость
$0.00
Сэкономлено $36.79Объём запросовПоследние 24 часа
18,420 requests
29,680 requests
22,450 requests
38,120 requests
26,740 requests
45,200 requests
31,980 requests
48,600 requests
29,150 requests
40,780 requests
43,820 requests
51,240 requests
Прямые интеграции провайдеров
- Каждый провайдер добавляет отдельные endpoint, учётные данные и биллинговый интерфейс.
- Сбои провайдеров и изменения моделей напрямую затрагивают приложение.
- Использование и расходы распределены по нескольким консолям.
Шлюз RouteAPI
- Один совместимый с OpenAI endpoint для приложения.
- Выбор маршрута, повторы и fallback управляются в одном месте.
- Использование, задержки, сбои и расходы видны в едином рабочем представлении.
ОРИЕНТИРЫ НАДЕЖНОСТИ
Четкие цели сервиса с определенной областью измерения.
Публичные ориентиры для уровня шлюза. Задержка инференса и потоковой генерации измеряется отдельно, поскольку зависит от нагрузки.
Накладная задержка шлюза (P99)
≤ 400 ms
Только обработка RouteAPI · без инференса модели
Для 99% учитываемых запросов шлюз должен добавлять не более 400 мс.
Цель переключения
≤ 1 s
Учитываемый сбой провайдера или транспорта · следующий запрос
Внутренняя цель восстановления; универсального времени для всех нагрузок нет, поэтому оно задается политикой маршрута.
Интеграции провайдеров
30+
Поддерживаемые upstream-семейства · текущий охват продукта
Показатель охвата продукта, представленный отдельно от SLO доступности и задержки.
Это наши цели по уровню сервиса и текущий охват продукта, а не живая производственная телеметрия. Договорные условия согласуются отдельно в корпоративном плане.
ПРОЗРАЧНОСТЬ ОБРАБОТКИ ДАННЫХ
Понимайте путь своих API-данных.
Кратко покажем, куда направляются запросы и что записывает RouteAPI. У upstream-провайдеров действуют собственные политики данных.
Ваше приложение
Отправляет промпты и параметры запроса
Шлюз RouteAPI
Маршрутизирует запрос и записывает операционные данные
Настроенный upstream-провайдер
Обрабатывает запрос согласно своей политике данных
Куда направляются запросы
Запросы проходят через RouteAPI и отправляются upstream-провайдеру, настроенному системой для выбранной модели.
Обучение моделей
RouteAPI не хранит содержимое ваших запросов и не использует его для обучения. Ваши данные напрямую передаются выбранному upstream-провайдеру; ознакомьтесь с политикой данных каждого провайдера.
Что записывает RouteAPI
Операционные записи включают модель, провайдера, статус, задержку, расход токенов и стоимость.
На этой странице описаны текущий путь запросов и журналирование RouteAPI; она не является общей гарантией хранения, удаления или обучения у upstream-провайдеров.
Ответы на вопросы
Что нужно знать командам перед направлением продакшен-трафика.
Начните с совместимой интеграции, а затем постепенно добавляйте нужные рабочей нагрузке средства маршрутизации и эксплуатации.
Нужно ли заменять существующий OpenAI-клиент?
Нет. RouteAPI построен вокруг совместимого с OpenAI API, поэтому обычно достаточно сохранить текущий клиент и обновить Base URL и API-ключ.
RouteAPI автоматически выбирает наиболее подходящего провайдера?
Да. Вы выбираете нужную модель, а RouteAPI автоматически выбирает наиболее подходящего провайдера с учетом настроенного системой маршрута и состояния провайдеров.
Как работают резервирование провайдера и повторы?
Для маршрута модели вы задаете основной провайдер, резервные пути и политику повторов. RouteAPI применяет эти правила при подходящем сбое провайдера или транспорта; восстановить можно не каждую ошибку.
Оплачиваются ли неудачные запросы, повторы и резервные попытки?
Оплата зависит от тарифицируемого использования. Неудачная попытка без тарифицируемого использования не оплачивается; повтор или резервный путь с тарифицируемым использованием может быть оплачен, а завершивший запрос резервный путь тарифицируется по ставке выбранной модели. Подробнее о биллинге
Храните ли вы промпты и ответы?
Нет. RouteAPI не хранит содержимое промптов и ответов. Для тарификации мы сохраняем только необходимые метаданные: модель, расход токенов, стоимость, статус и время запроса.
Отправьте первый запрос через RouteAPI.
Создайте API-ключ, обновите Base URL и отправьте тестовый запрос.
Оплата по использованию · Экономия до 25%
Надёжный масштаб
Команды, создающие продукты на RouteAPI
Готовый к продакшену шлюз для команд, которым нужен надёжный доступ к моделям, лежащим в основе их продуктов.