Bỏ qua để đến nội dung

Tương thích tham số

Phần lớn tham số hội thoại chuẩn có hành vi nhất quán trong yêu cầu tương thích RouteAPI. Năng lực tùy chọn có thể khác nhau theo mô hình; trước khi dùng production, nên xác nhận trong console.

Tham sốCần xác nhận gì
toolsMô hình đã chọn hỗ trợ gọi công cụ.
tool_choiceCách chọn công cụ trong yêu cầu được hỗ trợ.
response_formatMô hình hỗ trợ JSON mode hoặc JSON Schema.
stream_optionsPhản hồi streaming có thể trả thông tin usage.
reasoningMô hình đã chọn hỗ trợ tham số kiểm soát suy luận.
temperatureGiá trị 0 truyền rõ ràng sẽ được giữ lại.
parallel_tool_callsGiá trị false truyền rõ ràng sẽ được giữ lại.

Nếu client gửi:

{
"temperature": 0,
"stream": false,
"parallel_tool_calls": false
}

RouteAPI sẽ coi các giá trị này là thiết lập rõ ràng và không xóa chúng chỉ vì chúng là 0 hoặc false.

  • Trước khi lên production, xác nhận trong console tình trạng hỗ trợ của năng lực cần thiết.
  • Giữ tham số yêu cầu nhất quán giữa kiểm thử và production.
  • Khi mô hình không hỗ trợ một năng lực, ưu tiên trả lỗi client rõ ràng.
  • Sau khi sửa tham số, dùng nhật ký usage để so sánh biểu hiện của yêu cầu.