Открытые модели
Текстовые модели и модели для изображений и видео из основных открытых семейств. Workflow ComfyUI можно оформить как API-сервис.
Например · DeepSeek · Qwen · GLM · Kimi · Llama · Wan · workflow ComfyUI
Ваши модели на выделенных GPU. Эксплуатацию мы берём на себя.
Частное развёртывание LLM под ключ: мы рассчитываем конфигурацию оборудования, закупаем его или используем ваши серверы, выводим в эксплуатацию открытые или ваши собственные модели и сопровождаем их с SLA 99,9 % месячной доступности.
- Открытые модели и собственные веса клиента
- Оборудование закупаем мы или предоставляет клиент
- Сопровождение после сдачи проекта
- 99,9 % месячной доступности
- КлиентПриложение клиентаОбращается к OpenAI-совместимому API
- RouteAPIЭксплуатацияМониторинг, обновления, устранение сбоев
- RouteAPIИнференс моделейДвижок инференса, квантование, масштабирование
- RouteAPI или клиентGPU-серверыКонфигурация под модель и нагрузку
Открытые и собственные модели — развернём и те, и другие
Если лицензия модели это допускает, мы выводим в промышленную эксплуатацию как открытые модели, так и собственные модели клиента.
Собственные модели клиента
Дообученные модели, LoRA-адаптеры и модели собственной разработки. Клиент предоставляет веса, мы выполняем развёртывание и запуск.
Обучение — на стороне клиента · развёртывание и эксплуатация — на нашей
Услуга не включает обучение и дообучение моделей. Если проект этого требует, мы сообщим об этом на этапе обсуждения требований.
От оценки до эксплуатации — одна команда
Оценку, развёртывание и эксплуатацию после запуска выполняет одна и та же группа инженеров, включая реагирование на сбои в нерабочее время.
Оценка
С учётом модели, объема запросов, требований к задержке и ограничений по данным определяем тип и количество GPU и составляем план развёртывания.
Результат · Спецификация и коммерческое предложение
Оборудование
Мы закупаем серверы и размещаем их в дата-центре либо используем имеющиеся у клиента серверы или облачный аккаунт.
Результат · Согласованная конфигурация оборудования
Развёртывание
Настраиваем среду инференса, оптимизируем производительность и масштабирование, а перед запуском проводим нагрузочное тестирование на реальном профиле трафика.
Результат · Рабочий API-эндпоинт
Эксплуатация
Мониторинг и оповещения, обновления, смена версий моделей и устранение сбоев с SLA 99,9 % месячной доступности.
Результат · Выделенная команда поддержки
Два варианта оборудования
В любом варианте развёртывание и эксплуатацию программного уровня выполняем мы и несём ответственность по SLA.
| Закупка RouteAPI | Оборудование клиента | |
|---|---|---|
| Принадлежность серверов | Закупаются нами специально для вашего развёртывания | Принадлежат клиенту: собственный дата-центр или облачный аккаунт |
| Размещение | Дата-центр, который организуем мы, в регионе по выбору клиента | Дата-центр или облачный регион клиента |
| Оплата | Единый ежемесячный платёж за оборудование и эксплуатацию | Плата за развёртывание и за эксплуатацию |
| Когда подходит | Нужно избежать единовременных затрат на оборудование | Вычислительные ресурсы уже есть, или данные не могут покидать собственную среду |
Независимое развёртывание с возможностью подключить публичные модели
Развёртывание принадлежит клиенту и работает автономно, без прохождения трафика через платформу RouteAPI. RouteAPI также предоставляет шлюз к более чем 70 публичным моделям; при необходимости их можно связать по согласованию с клиентом.
- По умолчанию все запросы обрабатывает только ваше развёртывание
- Сложные задачи можно направлять в GPT, Claude или Gemini
- Стратегию переключения при сбоях определяет клиент; её можно не включать
Когда услуга подходит
Мы небольшая команда. Ниже перечислены случаи, когда услуга подходит, и случаи, когда лучше выбрать другой вариант.
Подходит
- Большой и стабильный объем запросов: выделенные GPU обходятся дешевле, чем оплата за токены
- Данные или веса моделей должны быть изолированы и не могут работать в общей среде
- Модель уже обучена и её нужно вывести в промышленную эксплуатацию
- Нет собственной команды эксплуатации, способной обеспечить работу GPU в режиме 24/7
Не подходит
- Обучение или дообучение. Услуга включает только развёртывание.
- Небольшой или неравномерный трафик. Наш API с оплатой по факту обойдётся дешевле.
- Кластеры из тысяч GPU. Здесь лучше подойдет крупный облачный GPU-провайдер.
Частые вопросы
Сообщите модель и ожидаемый объем запросов — мы подготовим оценку ресурсов и предварительное предложение.
Связаться с намиДа. Мы можем развернуть модель на ваших серверах — в собственном дата-центре или облачном аккаунте — либо закупить и разместить оборудование сами.
Месячную доступность API вашего развёртывания. Порядок расчёта простоев и компенсаций определяется договором на развёртывание.
Нет. Развёртывание работает автономно. Подключение публичных моделей или настройка переключения при сбоях согласуются отдельно.
Только инженеры RouteAPI, отвечающие за эксплуатацию вашего развёртывания. Мы не используем ваши веса, запросы или ответы модели для обучения моделей.
После оценки мы готовим отдельное предложение для каждого развёртывания с учётом оборудования, модели и уровня сопровождения. Оплата за токены не взимается.