Skip to content

LiteLLM 接入

LiteLLM 可以把多个模型供应商统一成 OpenAI 风格接口。接入 RouteAPI 时,通常只需要配置自定义 base URL 和 API Key。

Terminal window
export ROUTEAPI_KEY="your-routeapi-token"
import litellm
import os
response = litellm.completion(
model="openai/gpt-4o",
api_base="https://www.routeapi.ai/v1",
api_key=os.environ["ROUTEAPI_KEY"],
messages=[{"role": "user", "content": "Hello RouteAPI"}],
)
print(response.choices[0].message.content)
  • LiteLLM 的模型命名可能带 provider 前缀,实际是否需要前缀取决于 LiteLLM 配置。
  • RouteAPI 侧仍按控制台中的模型 ID 和服务能力处理请求。