{"canonical_url":"https://engineer.company/uk/glossary/exponential-backoff/","content_markdown":"# Експоненційна затримка\n\n## Що це таке\n\nЕкспоненційна затримка (exponential backoff) — це правило, яке визначає, скільки\nчекати перед наступною спробою. Після кожної невдалої спроби пауза множиться на\nсталий коефіцієнт, найчастіше на два, доки не досягне стелі: одна секунда, потім\nдві, чотири, вісім і так далі. Правило живе в клієнті, але існує заради того, до\nчого клієнт звертається. Сервер, мережевий шлях чи база даних, що відмовляють\nпід надмірним навантаженням, не відновляться швидше, якщо їх одразу ж запитати\nзнову. Вони відновлюються, коли ті, хто до них звертається, послаблюють тиск, а\nпауза, що зростає з кожною невдачею, змушує їх послаблювати його тим сильніше,\nчим довше триває проблема.\n\nНайстаріший і найпоширеніший приклад — у TCP. RFC 6298, документ категорії\nStandards Track від червня 2011 року, що визначає, як TCP обчислює тайм-аут\nповторної передачі, встановлює цей тайм-аут в одну секунду, доки не виміряно\nперший час проходження даних туди й назад (round-trip time), і каже, що обчислене значення, менше за\nодну секунду, слід округлити вгору. Щоразу, коли таймер спрацьовує і сегмент\nдоводиться надсилати знову, хост мусить подвоїти тайм-аут. Верхню межу\nдозволено, якщо вона становить щонайменше 60 секунд. Коли надходить свіже\nвимірювання часу проходження даних туди й назад, тайм-аут знову обчислюється з вимірювань, і це може\nодразу повернути його вниз після серії подвоєнь. Алгоритм походить зі статті Ван\nДжейкобсона Congestion Avoidance and Control 1988 року, а розділ RFC про безпеку\nпояснює, що поставлено на карту: інтернет покладається на правильний таймер\nповторної передачі, щоб мережа залишалася стабільною і не сталося\nперевантажувального колапсу (congestion collapse).\n\nУ прикладному коді та сама ідея має кілька налаштувань: початкову паузу,\nмножник, максимальну паузу, на якій зростання зупиняється, і ліміт на кількість\nспроб або на загальний час, витрачений на повтори. Якщо записати це формулою,\nпауза після n-ї невдачі дорівнює меншому з двох значень: стелі та базової паузи,\nпомноженої на множник у степені n, де n рахують від нуля. Аналіз AWS, про який\nідеться нижче, називає це capped exponential backoff, тобто експоненційною\nзатримкою зі стелею. Стеля важить більше, ніж здається. Якщо подвоїти секундну\nпаузу десять разів, вийде 1024 секунди, понад 17 хвилин, а це довше, ніж\nбільшість готова чекати будь-чого.\n\nОстаннє налаштування — джитер (jitter), випадкова складова кожної паузи.\nПротокол connection backoff у gRPC, що описує, як клієнти gRPC перепідключаються\nпісля невдалого з'єднання, починає з однієї секунди, множить на 1,6, припиняє\nзростання на 120 секундах і застосовує джитер 0,2, тож кожна пауза випадково\nзсувається вгору чи вниз щонайбільше на 20%. Він також дає кожній спробі\nз'єднання щонайменше 20 секунд на завершення і скидає backoff до початкового\nзначення, щойно сервер прийняв з'єднання, а моментом прийняття вважає\nнадходження фрейму SETTINGS. Протокол допускає інші реалізації, наприклад на\nмобільному телефоні, який має прокидатися якомога рідше, але вимагає, щоб\nbackoff, запущені одночасно, розходилися в часі і щоб жодна реалізація не\nнамагалася з'єднуватися суттєво частіше.\n\n## Чому це важливо\n\nПовторна спроба — це додаткове навантаження, і воно приходить у найгірший\nмомент: саме тоді, коли те, до чого звертаються, дає збій. Якщо сервіс\nсповільнюється через перевантаження, а кожен, хто до нього звертається, одразу\nпробує знову, навантаження зростає, поки потужність падає. Тому документація\nGoogle Cloud Storage відносить повтори без backoff до антипатернів: негайні або\nдуже короткі повтори можуть спричинити каскадні збої, коли одна відмова тягне за\nсобою інші. Backoff перетворює повторну спробу з підсилювача на гальмо: що довше\nтриває проблема, то менше кожен клієнт до неї додає.\n\nСам по собі backoff не рятує, бо клієнти, які зазнають невдачі разом, разом і\nчекають. У статті Exponential Backoff And Jitter, яку AWS опублікувала в березні\n2015 року, Марк Брукер змоделював багато клієнтів, що за допомогою\nоптимістичного керування конкурентним доступом (optimistic concurrency control)\nоновлюють один і той самий рядок у віддаленій базі даних. Коли всі клієнти\nзмагалися в кожному раунді, загальний обсяг роботи зростав пропорційно квадрату\nкількості клієнтів. Експоненційна затримка зі стелею допомагала лише трохи.\nВиклики й далі надходили скупченнями з тихими проміжками між ними, тож\nконкуренція майже не зменшувалася. Додавання джитеру, коли кожну паузу вибирають\nвипадково між нулем і експоненційним значенням зі стелею, прибрало проміжки,\nдало приблизно сталий потік викликів, а у варіанті зі 100 конкурентними\nклієнтами скоротило кількість викликів більш ніж удвічі. Серед порівняних\nваріантів backoff без джитеру був, за словами Брукера, «явним аутсайдером». Він\nтакож прямо назвав межу: жоден із підходів не змінює того, що робота зростає з\nквадратом конкуренції. Джитер зменшує марні витрати, але не прибирає самого\nконфлікту. В оновленні від травня 2023 року в дописі зазначено, що більшість AWS\nSDK тепер мають експоненційну затримку і джитер у стандартному та адаптивному\nрежимах повторних спроб.\n\nBackoff вирішує, коли пробувати знову, а не чи безпечно це робити. Документація\nCloud Storage спершу ставить два питання. Перше — чи вказує відповідь на\nтимчасову проблему: коди стану HTTP 408, 429 і 5xx, тайм-аути сокетів і розриви\nTCP-з'єднань. Друге — чи є запит ідемпотентним. Операцію отримання списку можна\nповторювати вільно. Створення сповіщення Pub/Sub — ні, бо кожен успішний виклик\nстворює нове сповіщення. Між ними лежать умовно ідемпотентні операції, які стає\nбезпечно повторювати, коли вони несуть передумову, наприклад завантаження, що\nвдається лише тоді, коли номер покоління (generation) об'єкта досі такий, на\nякий розраховує клієнт.\n\nІноді сервер знає краще за формулу клієнта. Поле заголовка Retry-After,\nвизначене в RFC 9110, повідомляє клієнтові, скільки йому варто зачекати перед\nнаступним запитом, або як дату, або як кількість секунд, а разом із відповіддю\n503 Service Unavailable вказує, скільки часу сервіс, за власною оцінкою, буде\nнедоступний. Код стану 429 Too Many Requests із RFC 6585, що сигналізує про\nобмеження частоти запитів, може містити те саме поле. Клієнт із циклом backoff\nможе взяти це значення замість власної обчисленої паузи, адже воно надходить від\nсторони, яка бачить своє навантаження.\n\n## Як це виглядає на практиці\n\nЦикл повторних спроб з експоненційною затримкою зі стелею та повним джитером\n(full jitter) займає кілька рядків на Python:\n\n```python\nimport random\nimport time\n\nclass TransientError(Exception):\n    \"\"\"Тайм-аут, відповідь 408, 429 чи 5xx або розірване з'єднання.\"\"\"\n\ndef call_with_backoff(op, attempts=5, base=1.0, cap=30.0):\n    for attempt in range(attempts):\n        try:\n            return op()\n        except TransientError:\n            if attempt == attempts - 1:\n                raise\n            ceiling = min(cap, base * 2**attempt)\n            time.sleep(random.uniform(0, ceiling))\n```\n\nЗ цими значеннями п'ять спроб розділяють чотири паузи зі стелями 1, 2, 4 і 8\nсекунд. Отже, цикл спить щонайбільше 15 секунд, перш ніж здатися, а в середньому\n— близько 7,5 секунди, бо кожну паузу вибирають рівномірно між нулем і її\nстелею. Повтор отримує лише `TransientError`; помилка авторизації чи неправильно\nсформований запит одразу піднімають виняток. І цикл повторює все, що робить\n`op`, тож `op` має бути безпечною для повторення: читанням або записом, який\nсервер може розпізнати як повтор.\n\nКлієнтські бібліотеки мають власні версії цього циклу, і типові значення в них\nрізняться навіть для одного й того самого сервісу. Для Cloud Storage клієнт на\nPython починає з однієї секунди, подвоює кожну паузу до 60 секунд і здається\nпісля типового дедлайну 120 секунд. Клієнт на C++ теж починає з однієї секунди й\nподвоює, але чекає між спробами до п'яти хвилин і продовжує повтори до 15\nхвилин, тобто більш ніж усемеро довше. До того ж він повторює й операції, які\nніколи не бувають ідемпотентними, якщо програма не ввімкне сувору політику\nідемпотентності. Командний рядок gcloud використовує те, що Google називає\ntruncated binary exponential backoff, і за замовчуванням робить до 32 повторних\nспроб. Тож дві програми, які викликають той самий API з тією самою помилкою,\nможуть повідомити про неї через дві хвилини або через чверть години — залежно\nвід мови, якою їх написано.\n\nОчікування не мусить блокувати потік виконання. У фоновій роботі завдання, що\nзазнало невдачі, можна повернути в [чергу](/uk/glossary/#queue) з пізнішим часом\nвиконання, і тоді backoff стає властивістю завдання, а не процесу, який спить.\nЦе природне місце для нього щоразу, коли на відповідь ніхто не чекає.\n\nУ\n[пошті з failover і журналом доставки](/uk/portfolio/built-email-with-failover-and-delivery-logging/),\nпроєкті 2025 року, backoff працює на асинхронному боці системи. Листи йдуть\nчерез трьох провайдерів: SendGrid як основний, а SMTP2GO та Azure Communication\nServices за ним, і перемикання між ними автоматичне. Сам шлях надсилання\nпроходить через клієнт із тайм-аутом 30 секунд, а асинхронний шлях доставки\nповторює спроби з backoff, щоб коротка заминка не коштувала листа. Сторінка\nпідсумовує результат: коли в одного провайдера поганий день, пошта переходить у\nдеградований режим, а не падає зовсім. Вона ж називає і ціну: три інтеграції,\nякі треба підтримувати, замість однієї.\n\n## Де виникають проблеми\n\n**Усі клієнти чекають однаково.** Без джитеру клієнти, що зазнали невдачі разом,\nразом і повторюють спробу, і сервер бачить той самий сплеск знову через одну,\nдві, чотири й вісім секунд. Моделювання Брукера показало, що саме через це\nпроста експоненційна затримка майже не зменшувала конкуренцію. Додайте джитер: у\nйого порівнянні і Full Jitter, і Decorrelated Jitter суттєво скоротили роботу\nклієнтів і навантаження на сервер, і будь-який із них — розумний вибір за\nзамовчуванням.\n\n**Пауза не має стелі, або повторам немає кінця.** Необмежене подвоєння перевищує\n17 хвилин після десяти невдач, а цикл без ліміту тримає запит живим ще довго\nпісля того, як на відповідь уже ніхто не чекає. Google відносить ігнорування\nлімітів повторів до антипатернів: нескінченні повтори можуть вичерпати ресурси\nзастосунку або без кінця надсилати запити до сервісу, який без втручання не\nвідновиться. Встановіть максимальну паузу й загальний дедлайн відповідно до\nтого, хто чекає: короткі там, де важлива затримка, і довші для пакетної обробки.\n\n**Повторюють постійні помилки.** Помилка авторизації чи некоректний запит щоразу\nзакінчуються однаково. Повтор лише відкладає помилку, а без ліміту клієнт може\nопинитися в нескінченному циклі, про що попереджає документація Cloud Storage.\nРозділіть помилки на тимчасові й постійні ще до циклу, повторюйте лише\nтимчасові, як-от 408, 429, 5xx і розірвані з'єднання, а решту записуйте в журнал\nразом із причиною.\n\n**Неідемпотентну операцію повторюють наосліп.** Якщо запит вичерпав тайм-аут уже\nпісля того, як сервер його виконав, повтор виконає дію вдруге, а це, за списком\nантипатернів Google, означає ненавмисні перезаписи чи видалення даних.\nПовторюйте лише ідемпотентні операції, робіть записи умовними там, де API це\nдозволяє, а в інших випадках подбайте, щоб приймальна сторона могла розпізнати\nдублікат.\n\n**Повтори закладено на кількох рівнях.** Якщо застосунок робить три спроби,\nа клієнтська бібліотека під ним робить три спроби на кожну з цих спроб, одна невдача\nперетворюється на дев'ять спроб; це власний приклад Google, і кожен наступний\nрівень, що повторює самостійно, знову множить цю кількість. Документація додає,\nщо стільки повторів може призвести до придушення запитів (throttling) і більшої\nзатримки, не покращивши частку успішних запитів. Повторюйте на одному рівні,\nзазвичай у бібліотеці, а на інших вимкніть повтори або зменште їхню кількість.\n\n**Backoff ніколи не скидається, або його ніхто не бачить.** Клієнт, що після\nвідновлення зберігає свою останню довгу паузу, за наступного дрібного збою\nвідсиджує максимум; gRPC повертається до початкового backoff, щойно з'єднання\nприйнято, а TCP переобчислює таймер зі свіжих вимірювань. Скидайте паузу після\nуспіху. І оскільки повтори приховують проблеми від користувачів, вони приховують\nїх і від команди. Рахуйте їх у системі [моніторингу](/uk/glossary/#monitoring) і\nвмикайте [тривогу](/uk/glossary/#alert), коли частка повторів зростає, бо\nзалежність, якій потрібні три спроби на виклик, уже відмовляє.\n\n## Що почитати далі\n\n- [RFC 6298: Computing TCP's Retransmission Timer](https://www.rfc-editor.org/rfc/rfc6298.html)\n  — правила Standards Track для тайм-ауту повторної передачі в TCP, зокрема\n  подвоєння щоразу, коли спрацьовує таймер.\n- [gRPC Connection Backoff Protocol](https://github.com/grpc/grpc/blob/master/doc/connection-backoff.md)\n  — алгоритм перепідключення, його п'ять параметрів зі значеннями і момент, коли\n  backoff скидається.\n- [Exponential Backoff And Jitter](https://aws.amazon.com/blogs/architecture/exponential-backoff-and-jitter/)\n  — моделювання Марка Брукера 2015 року з конкурентними клієнтами, де backoff\n  без джитеру порівнюється з Full, Equal і Decorrelated Jitter.\n- [Retry strategy](https://docs.cloud.google.com/storage/docs/retry-strategy) —\n  що Cloud Storage вважає безпечним для повтору, типові значення кожної\n  клієнтської бібліотеки і п'ять антипатернів повторних спроб.\n- [RFC 9110: HTTP Semantics](https://www.rfc-editor.org/rfc/rfc9110.html#section-10.2.3)\n  — поле Retry-After, яким сервер повідомляє клієнтові, скільки чекати перед\n  наступним запитом.\n\n\u003chttps://engineer.company/uk/glossary/exponential-backoff/\u003e\n","date_modified":"2026-11-12T05:34:23Z","description":"Чому клієнт має чекати довше після кожної невдалої спроби, як джитер розводить повтори в часі і коли повторні спроби шкодять більше, ніж допомагають.","formats":{"gemtext":"https://engineer.company/uk/glossary/exponential-backoff/index.gmi","gopher":"https://engineer.company/uk/glossary/exponential-backoff/gophermap","html":"https://engineer.company/uk/glossary/exponential-backoff/","json":"https://engineer.company/uk/glossary/exponential-backoff/index.json","markdown":"https://engineer.company/uk/glossary/exponential-backoff/index.md","pdf":"https://engineer.company/uk/glossary/exponential-backoff/index.pdf"},"kind":"page","language":"uk","title":"Що таке експоненційна затримка?","url":"https://engineer.company/uk/glossary/exponential-backoff/","version":1}