故障保护
AI 模型服务偶尔可能返回错误、超时或短暂不可用。RouteAPI 会在安全的情况下尝试继续处理请求,并在无法安全完成时返回清晰的错误信息。
哪些情况会被保护
Section titled “哪些情况会被保护”| 场景 | 预期行为 |
|---|---|
| 模型服务短暂错误 | RouteAPI 会在安全时尝试继续处理。 |
| 响应开始前超时 | RouteAPI 可尝试使用其他可用服务路径。 |
| 模型服务限流 | 如存在合适选项,RouteAPI 会继续处理。 |
| 请求参数无效 | RouteAPI 返回错误,提示客户端修正。 |
| 账户余额或权限问题 | RouteAPI 返回账户级错误。 |
开发者注意事项
Section titled “开发者注意事项”- 非流式文本请求最适合重试。
- 流式请求应只在输出开始前重试。
- 会触发外部动作的请求应设计为幂等。
- 客户端仍应处理 HTTP 错误,并向用户展示明确提示。
推荐客户端行为
Section titled “推荐客户端行为”- 设置合理的请求超时时间。
- 排查问题时记录 RouteAPI 请求 ID。
- 只在业务确认幂等的操作上做客户端重试。
- 如果重复出现服务错误,请携带请求 ID 联系支持。