Bảo vệ khi lỗi
Dịch vụ mô hình AI đôi khi có thể trả lỗi, timeout hoặc tạm thời không khả dụng. RouteAPI sẽ cố gắng tiếp tục xử lý yêu cầu khi an toàn, và trả về thông tin lỗi rõ ràng khi không thể hoàn tất an toàn.
Những trường hợp được bảo vệ
Phần tiêu đề “Những trường hợp được bảo vệ”| Kịch bản | Hành vi kỳ vọng |
|---|---|
| Lỗi tạm thời của dịch vụ mô hình | RouteAPI sẽ cố gắng tiếp tục xử lý khi an toàn. |
| Timeout trước khi bắt đầu phản hồi | RouteAPI có thể thử dùng đường dịch vụ khả dụng khác. |
| Dịch vụ mô hình bị giới hạn | Nếu có lựa chọn phù hợp, RouteAPI sẽ tiếp tục xử lý. |
| Tham số yêu cầu không hợp lệ | RouteAPI trả lỗi và nhắc client sửa. |
| Vấn đề số dư hoặc quyền tài khoản | RouteAPI trả lỗi cấp tài khoản. |
Lưu ý cho nhà phát triển
Phần tiêu đề “Lưu ý cho nhà phát triển”- Yêu cầu văn bản không streaming phù hợp nhất để retry.
- Yêu cầu streaming chỉ nên retry trước khi đầu ra bắt đầu.
- Yêu cầu kích hoạt hành động bên ngoài nên được thiết kế idempotent.
- Client vẫn cần xử lý lỗi HTTP và hiển thị thông báo rõ ràng cho người dùng.
Hành vi client đề xuất
Phần tiêu đề “Hành vi client đề xuất”- Đặt thời gian timeout yêu cầu hợp lý.
- Ghi RouteAPI request ID khi xử lý sự cố.
- Chỉ retry ở phía client với thao tác mà nghiệp vụ xác nhận là idempotent.
- Nếu lỗi dịch vụ lặp lại, hãy liên hệ hỗ trợ kèm request ID.