Tương thích tham số
Phần lớn tham số hội thoại chuẩn có hành vi nhất quán trong yêu cầu tương thích RouteAPI. Năng lực tùy chọn có thể khác nhau theo mô hình; trước khi dùng production, nên xác nhận trong console.
Tham số cần xác nhận
Phần tiêu đề “Tham số cần xác nhận”| Tham số | Cần xác nhận gì |
|---|---|
tools | Mô hình đã chọn hỗ trợ gọi công cụ. |
tool_choice | Cách chọn công cụ trong yêu cầu được hỗ trợ. |
response_format | Mô hình hỗ trợ JSON mode hoặc JSON Schema. |
stream_options | Phản hồi streaming có thể trả thông tin usage. |
reasoning | Mô hình đã chọn hỗ trợ tham số kiểm soát suy luận. |
temperature | Giá trị 0 truyền rõ ràng sẽ được giữ lại. |
parallel_tool_calls | Giá trị false truyền rõ ràng sẽ được giữ lại. |
0 và false rõ ràng
Phần tiêu đề “0 và false rõ ràng”Nếu client gửi:
{ "temperature": 0, "stream": false, "parallel_tool_calls": false}RouteAPI sẽ coi các giá trị này là thiết lập rõ ràng và không xóa chúng chỉ vì chúng là 0 hoặc false.
Thực hành tốt nhất
Phần tiêu đề “Thực hành tốt nhất”- Trước khi lên production, xác nhận trong console tình trạng hỗ trợ của năng lực cần thiết.
- Giữ tham số yêu cầu nhất quán giữa kiểm thử và production.
- Khi mô hình không hỗ trợ một năng lực, ưu tiên trả lỗi client rõ ràng.
- Sau khi sửa tham số, dùng nhật ký usage để so sánh biểu hiện của yêu cầu.