CheapAI

Ошибки и таймауты API

Что делать, если API CheapAI вернул 429 или 503, долго ждёт начала ответа или оборвал поток.

HTTP 429 — слишком много запросов

Сделайте паузу. Если сервер вернул Retry-After, дождитесь указанного времени. Иначе повторяйте с растущей задержкой и небольшим случайным разбросом. При постоянных 429 уменьшите число одновременных запросов для этой модели.

Таймаут и долгие ответы

Для интерактивных запросов используйте "stream": true, если эндпоинт поддерживает SSE. События с текстом, рассуждением или вызовом инструмента показывают, что генерация идёт. Служебный ping говорит о состоянии соединения. До начала ответа действуют лимиты клиента и шлюза, а в потоке есть отдельный лимит бездействия.

HTTP 502, 503, 504 и 524

При разовом сбое допустим ограниченный повтор с задержкой. Если 503 приходит сразу с сообщением о недоступном канале, проверьте ID модели и её доступность в каталоге. Для 524 проверьте прямой адрес API, если он указан в справочнике. На прямом адресе продолжают действовать таймауты клиента и шлюза.

Поток оборвался после начала ответа

Обрабатывайте частичный результат отдельно. Если клиент уже получил вызов инструмента, проверьте, запускался ли он, прежде чем повторять запрос целиком. Если ошибка повторяется, сообщите поддержке время, модель, эндпоинт, код ответа и ID запроса, если он есть.