跳到內容

LangChain 接入

LangChain 支持通過 OpenAI 兼容客戶端配置自定義模型服務。

from langchain_openai import ChatOpenAI
import os
llm = ChatOpenAI(
model="gpt-4o",
api_key=os.environ["ROUTEAPI_KEY"],
base_url="https://www.routeapi.ai/v1",
)
response = llm.invoke("用一句話介紹 RouteAPI")
print(response.content)
  • 先用 cURL 驗證模型和 Token。
  • 再接入 LangChain。
  • 如果使用 tools 或 structured output,確認所選模型支持對應能力。