Bỏ qua để đến nội dung

Chat Completions

Chat Completions là giao diện hội thoại được dùng phổ biến nhất, phù hợp với chat thông thường, trợ lý lập trình, tóm tắt, phân loại, gọi công cụ và hội thoại nhiều lượt.

POST /v1/chat/completions

Địa chỉ đầy đủ:

https://www.routeapi.ai/v1/chat/completions
Terminal window
curl https://www.routeapi.ai/v1/chat/completions \
-H "Authorization: Bearer $ROUTEAPI_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4o",
"messages": [
{ "role": "user", "content": "Hãy giới thiệu RouteAPI trong một câu" }
]
}'
TrườngKiểuBắt buộcMô tả
modelstringID mô hình, phải là mô hình khả dụng cho tài khoản hiện tại
messagesarrayDanh sách tin nhắn hội thoại
streambooleanKhôngCó sử dụng đầu ra streaming SSE hay không
temperaturenumberKhôngNhiệt độ lấy mẫu
top_pnumberKhôngTham số nucleus sampling
max_tokensnumberKhôngSố token đầu ra tối đa
toolsarrayKhôngĐịnh nghĩa công cụ
tool_choicestring/objectKhôngChiến lược chọn công cụ
response_formatobjectKhôngJSON mode hoặc JSON Schema
stream_optionsobjectKhôngTùy chọn bổ sung cho đầu ra streaming
[
{ "role": "system", "content": "Bạn là một trợ lý kỹ thuật cẩn trọng." },
{ "role": "user", "content": "Giải thích API gateway là gì." }
]

Các role thường gặp:

RoleMô tả
systemPrompt hệ thống
userĐầu vào người dùng
assistantPhản hồi lịch sử của mô hình
toolKết quả gọi công cụ
{
"id": "chatcmpl_xxx",
"object": "chat.completion",
"created": 1730000000,
"model": "gpt-4o",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "RouteAPI là một API gateway thống nhất để quản lý nhiều dịch vụ mô hình AI."
},
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 24,
"completion_tokens": 18,
"total_tokens": 42
}
}
  • Mức độ hỗ trợ cùng một tham số có thể khác nhau giữa các dịch vụ mô hình.
  • Nếu yêu cầu chứa tham số tùy chọn như tools, response_format, stream_options, hãy xác nhận trước rằng mô hình đã chọn hỗ trợ năng lực tương ứng.
  • Tham số tùy chọn được truyền rõ ràng là 0 hoặc false nên được coi là thiết lập rõ ràng của người dùng.