Models

ID mô hình là một trong những tham số quan trọng nhất khi gọi RouteAPI. model trong yêu cầu phải là mô hình khả dụng cho tài khoản hiện tại.

Endpoint

GET /v1/models

Ví dụ:

curl https://www.routeapi.ai/v1/models \
  -H "Authorization: Bearer $ROUTEAPI_KEY"

ID mô hình

Khi gọi giao diện, hãy dùng ID mô hình thay vì tên hiển thị trong console.

{
  "model": "gpt-4o"
}

Nếu RouteAPI có cấu hình ánh xạ mô hình, hãy lấy ID theo console hoặc kết quả trả về của giao diện danh sách mô hình.

Các trường mô hình nên hiển thị

Trường	Mô tả
id	ID mô hình dùng khi gọi
name	Tên hiển thị
context_length	Độ dài ngữ cảnh tối đa
input_price	Giá đầu vào
output_price	Giá đầu ra
supports_stream	Có hỗ trợ đầu ra streaming hay không
supports_tools	Có hỗ trợ gọi công cụ hay không
supports_vision	Có hỗ trợ đầu vào hình ảnh hay không
supports_json_schema	Có hỗ trợ đầu ra có cấu trúc hay không

Xử lý khi mô hình không khả dụng

Khi yêu cầu trả về mô hình không khả dụng, không có quyền hoặc lỗi phía dịch vụ, hãy kiểm tra theo thứ tự:

1. ID mô hình có viết đúng không.
2. Yêu cầu có chứa tham số tùy chọn mà mô hình hiện tại không hỗ trợ không.

Thực hành tốt nhất

• Cố định ID mô hình cho ứng dụng sản xuất, không phụ thuộc vào tên hiển thị.
• Chuẩn bị phương án mô hình thay thế cho nghiệp vụ quan trọng.
• Với kịch bản cần gọi công cụ hoặc đầu ra có cấu trúc, xác nhận năng lực mô hình trước.
• Trước khi lên production, dùng cùng một Token để kiểm tra danh sách mô hình và một lần gọi thực tế.