ID mô hình

ID mô hình RouteAPI là tên mà ứng dụng của bạn điền vào trường model. Đây là quy ước công khai giữa hệ thống nghiệp vụ và RouteAPI.

Vì sao cần ID mô hình ổn định

• Khi nền tảng điều chỉnh khả dụng mô hình, mã ứng dụng không cần sửa thường xuyên.
• Nhóm có thể thống nhất dùng một bộ tên mô hình đã được phê duyệt.
• Nhật ký, tính phí và cảnh báo dễ đọc hơn.
• Cấu hình client trong các SDK và công cụ khác nhau đơn giản hơn.

Ví dụ

{
  "model": "gpt-4o",
  "messages": [
    { "role": "user", "content": "Tóm tắt tài liệu này." }
  ]
}

Giá trị model phải khớp với ID mô hình hiện khả dụng cho tài khoản trong console RouteAPI.

Thực hành tốt nhất

• Dùng ID mô hình trong console, không hardcode tên tạm thời trong production.
• Dành ID mô hình khác nhau cho kỳ vọng chất lượng, độ trễ hoặc chi phí khác nhau.
• Trước khi dùng trong luồng production, hãy xác minh hành vi mô hình.
• Sau khi ứng dụng lưu lượng cao thay đổi ID mô hình, nên xem nhật ký usage để xác nhận hiệu quả.