Лимит запросов — максимальное число обращений к API за секунду или минуту для одного ключа; при превышении API возвращает 429 и Retry-After, а большие объёмы следует отправлять пакетными запросами.
Ограничение частоты запросов задаёт, сколько запросов можно сделать с одними учётными данными за период — обычно за секунду или минуту. Оно защищает платформу от вышедших из-под контроля циклов, а каждую учётную запись — от побочных эффектов чужой ошибки. Реализации различаются: фиксированные окна считают запросы за жёстко заданные интервалы времени, скользящие — за интервал, который сдвигается вместе со временем, а алгоритм маркерной корзины (token bucket) допускает короткие всплески, удерживая средний темп. Код состояния для ситуации «слишком много запросов» — 429; грамотно спроектированный API сообщает в заголовке Retry-After, сколько нужно ждать, и показывает оставшийся запас в заголовках ответа, чтобы клиенты могли замедлиться до того, как упрутся в лимит.
Лимиты относятся к запросам, а не к сообщениям. Один запрос с тысячей сообщений учитывается один раз, поэтому большим объёмам место в пакетных вызовах, а не во множестве параллельных одиночных отправок. Лимит API не следует путать ни с пропускной способностью — скоростью, с которой доставляют операторы, — ни с темпом, то есть скоростью, которую вы выбираете для кампании.
Пример
Условный сервис регистрации отправляет каждый код отдельным запросом. Во время акции число регистраций резко растёт, и сервис начинает получать ответы 429. Решение — не больше ключей и не больше потоков: коды проходят через небольшую очередь, которая соблюдает Retry-After, а рассылка, уходившая в тот же момент, переходит на пакетные запросы.
Типичные ошибки
- Повторять запрос после 429 немедленно, в плотном цикле, из-за чего клиент так и остаётся за пределами лимита.
- Игнорировать заголовок с оставшимся запасом, пока запросы не начнут завершаться ошибкой.
- Считать 429 неудавшимся сообщением: ничего не было отправлено, и последующий повтор с тем же ключом идемпотентности безопасен.
- Распределять трафик между дополнительными ключами, чтобы обойти лимит, вместо пакетной отправки.
В SMSMeteor: лимит — 50 запросов в секунду на ключ, а пакет до 1 000 сообщений считается одним запросом. Ответы содержат X-RateLimit-Limit и X-RateLimit-Remaining, а ответ 429 — Retry-After. Поскольку лимит действует для каждого ключа отдельно, отдельный ключ на каждую систему ещё и не позволяет вышедшему из-под контроля заданию в одной интеграции исчерпать запас другой.
Связанные термины
- Эндпоинт пакетной отправки
- Экспоненциальная задержка повторных запросов
- Пропускная способность (TPS)
