API 错误与超时
了解 CheapAI 返回 HTTP 429 或 503、长时间等待响应或流式响应中断时的处理方法。
HTTP 429:请求过多
请稍后重试。如果响应包含 Retry-After,请等待指定的时间。否则可采用带随机延迟的指数退避。如果持续收到 429,请降低该模型的请求并发数。
超时和响应过慢
对支持 SSE 的接口,交互式请求可使用 "stream": true。文本、推理和工具调用事件表示模型正在生成内容。保活 ping 表示连接仍然可用。响应开始前受客户端和网关超时限制,流式响应期间还有独立的空闲超时。
流式响应在返回部分内容后中断
请单独处理已收到的内容。如果客户端已收到工具调用,重试前请确认工具是否已执行。如果错误反复出现,请向客服提供发生时间、模型、接口、HTTP 状态码及请求 ID(如有)。