Xử lý bất thường dịch vụ mô hình

Khi RouteAPI trả lỗi phía dịch vụ, vấn đề thường liên quan đến trạng thái dịch vụ mô hình, tham số yêu cầu hoặc quota khả dụng của tài khoản.

Checklist

1. Dịch vụ mô hình còn khả dụng không.
2. Số dư hoặc quota tài khoản có đủ không.
3. Có vượt giới hạn hiện tại của dịch vụ không.
4. Tham số yêu cầu có bị dịch vụ mô hình từ chối không.
5. ID mô hình còn trong danh sách khả dụng không.
6. Có thể thử lại sau hoặc chuyển sang mô hình khả dụng khác không.

Khuyến nghị vận hành

• Cấu hình health check cho nghiệp vụ quan trọng.
• Ghi nguyên văn lỗi phía dịch vụ, nhưng tránh để lộ khóa.
• Đặt cooldown và cảnh báo cho các yêu cầu dịch vụ thất bại liên tục.
• Chuẩn bị phương án mô hình thay thế cho kịch bản production.