CheapAI
RU EN 中文

API 错误与超时

了解 CheapAI 返回 HTTP 429 或 503、长时间等待响应或流式响应中断时的处理方法。

HTTP 429:请求过多

请稍后重试。如果响应包含 Retry-After,请等待指定的时间。否则可采用带随机延迟的指数退避。如果持续收到 429,请降低该模型的请求并发数。

超时和响应过慢

对支持 SSE 的接口,交互式请求可使用 "stream": true。文本、推理和工具调用事件表示模型正在生成内容。保活 ping 表示连接仍然可用。响应开始前受客户端和网关超时限制,流式响应期间还有独立的空闲超时。

HTTP 502、503、504 和 524

遇到偶发错误,可以等待一段时间后有限次重试。如果立即返回 503 并提示没有可用线路,请在模型目录中核对模型 ID 和可用性。遇到 524 时,可以查看文档中是否提供直连地址。直连仍受客户端和网关的超时限制。

流式响应在返回部分内容后中断

请单独处理已收到的内容。如果客户端已收到工具调用,重试前请确认工具是否已执行。如果错误反复出现,请向客服提供发生时间、模型、接口、HTTP 状态码及请求 ID(如有)。