{"canonical_url":"https://engineer.company/uk/glossary/latency/","content_markdown":"# Затримка\n\n## Що це таке\n\nЗатримка (англійською latency) — це час, за який система починає відповідати:\nвід миті, коли запит залишає клієнта, до повернення першого байта відповіді.\nКоли мережевий шлях вимірюють туди й назад, кажуть про час обміну, round-trip\ntime (RTT), а у вебпродуктивності те саме називають time to first byte (TTFB).\nЧас відповіді — ширше поняття: він триває до останнього байта.\n\nЗатримку легко сплутати з пропускною здатністю та смугою пропускання, але ці\nтри величини відповідають на різні питання. Смуга — скільки бітів за секунду\nздатен передати канал. Пропускна здатність — скільки роботи система завершує за\nсекунду. Затримка — скільки чекає одна одиниця роботи. Нічний пакетний процес\nможе мати чудову пропускну здатність і жахливу затримку, а чат-сервер — навпаки.\n\nКожна мілісекунда береться з одного з кількох джерел:\n\n- **поширення**, шлях сигналу через відстань: світло в оптичному волокні\n  долає приблизно 200 км за мілісекунду, тож маршрут завдовжки 1 000 км коштує\n  щонайменше 10 мс туди й назад ще до того, як запрацює будь-яка програма;\n- **передавання**, виведення байтів у канал, що відчутно для великих обсягів на\n  повільних лініях;\n- **черга**, очікування за іншою роботою в буфері маршрутизатора, пулі потоків,\n  пулі з'єднань чи на блокуванні — єдина складова, що росте з навантаженням;\n- **обробка**, сама робота: запит до бази, шаблон, шифрування;\n- **обміни протоколу**, розмова до першого корисного байта. Нове\n  HTTPS-з'єднання через TCP спершу потребує рукостискання TCP і рукостискання TLS, а\n  TLS 1.3 скоротив повне рукостискання до одного обміну.\n\nРобоча група IETF з метрик продуктивності IP точно визначила мережевий варіант у\nRFC 2681: затримка обміну триває від першого надісланого біта до останнього біта\nотриманої відповіді. Два рішення звідти варто перенести на будь-який сервіс.\nВідповідь, яка так і не прийшла, вважається невизначеною, неформально —\nнескінченною, а не тихо випадає з вибірки. А статистики, які описує документ, —\nце перцентилі, медіана й мінімум. Він також зауважує, що мінімум відображає лише\nпоширення й передавання, а все понад мінімум свідчить про перевантаження. Цей\nподіл так само працює для API, як і для шляху між маршрутизаторами.\n\nДля окремого вебзапиту curl розкладе очікування на етапи:\n\n```sh\ncurl -s -o /dev/null \"$URL\" -w '\ndns        %{time_namelookup}\nconnect    %{time_connect}\ntls        %{time_appconnect}\nfirst byte %{time_starttransfer}\ntotal      %{time_total}\n'\n```\n\nКожне число — секунди від початку, тож різниця між сусідніми і є ціною етапу:\nпошук імені, встановлення з'єднання, рукостискання TLS і, нарешті, власний час\nроздумів сервера до першого байта.\n\n## Чому це важливо\n\nЗатримку відчуває користувач; пропускна здатність відображається в рахунку за\nсервери. Коли сторінка повільна, потрібно вирішити, куди вкласти гроші. П'ять\nнаведених вище складників потребують різних рішень; чотири з них показують, чому\nкупівля обладнання не є універсальним розв'язанням. Відстань зменшують,\nнаближаючи систему до користувачів: кеш, CDN, регіон поруч із ними. Кількість\nобмінів скорочують: повторно використовують з'єднання, групують запити,\nотримують дані паралельно. Обробку прискорюють, виконуючи менше роботи: індекс,\nкращий план запиту. Додаткова потужність може зменшити очікування в черзі; швидший процесор, більший\nобсяг пам’яті чи швидше введення-виведення також можуть скоротити час обробки,\nякщо саме ці ресурси є вузьким місцем. Потужніший сервер не обов’язково буде\nшвидшим: перш ніж обирати обладнання, виміряйте, на що йде час.\n\nСередні значення применшують проблему, бо користувачі стикаються з хвостом\nрозподілу. Сторінка, що паралельно звертається до десяти бекенд-сервісів, чекає\nна найповільніший. Якщо кожен виклик незалежно від інших повільний в 1% випадків, то 1 − 0,99¹⁰,\nтобто близько 9,6% завантажень сторінки, натрапляють щонайменше на один\nповільний виклик. Рідкісна затримка в частинах стає звичною в цілому.\n\nТому серйозні цілі записують у перцентилях, наприклад: 99% запитів отримують\nвідповідь протягом 300 мс за 30 днів. І тому 99-й перцентиль зазвичай і є тим\nчислом, за яким варто стежити. Медіана показує, як сервіс почувається в добрий\nдень, а високі перцентилі — яким він здається клієнтам, що вже збираються піти.\n\n## Як це виглядає на практиці\n\nУ картографічному застосунку затримки під час рендерингу шарів карти й запитів\nдо даних про місцезнаходження шкодили і користувачам, і надійності бекенду.\nРобота зосереджувалася на обробці просторових запитів у бекенді, що\nвикористовував стару базу даних Microsoft SQL Server.\n[Перехід на PostgreSQL із PostGIS скоротив середній час відповіді з 2,5 секунди\nдо менш ніж 250\nмілісекунд](/uk/portfolio/improved-gis-map-performance-10x-on-postgresql/),\nтобто підвищив продуктивність просторових запитів у 10 разів. За цим стояли\nіндекси GiST і SP-GiST на просторових стовпцях, понад 50 мільйонів перенесених\nзаписів і конфігурація, налаштована на одночасний доступ; навантаження на\nпроцесор бекенду впало на 65%.\n\nЗатримка також обмежує пропускну здатність там, де за один рядок змагаються\nбагато запитів. Нотатка про те, як\n[продати останній квиток рівно один раз](/uk/notes/selling-limited-stock-without-overselling/),\nоцінює стелю для одного товару як кількість продажів за одне захоплення блокування,\nподілену на час його утримання. Усе повільне всередині блокування цю стелю\nзнижує: виклик оплати під час утримання опускає її приблизно до двох продажів\nна секунду. Навіть захисний механізм тут має ціну. Синхронний standby у\nPostgreSQL додає затримку до кожного коміту, а отже, подовжує саме той час\nутримання, на який ділить формула.\n\nА щоб з'ясувати, куди йде час,\n[власний моніторинг на одній платформі](/uk/portfolio/built-first-party-error-monitoring-and-tracing/)\nзаписує затримку API у власну базу даних і трасує запити через OpenTelemetry.\nТож повільний запит можна простежити крізь фронтенд, API і базу даних, а не\nвгадувати.\n\n## Де виникають проблеми\n\n**Середнє ховає хвіст.** Середні 100 мс цілком сумісні з тим, що кожен\nп'ятдесятий запит триває три секунди. Записуйте затримку як гістограму й\nчитайте з неї перцентилі. І стежте за тим, як їх поєднують: 99-ті перцентилі\nп'яти серверів не можна усереднити до 99-го перцентиля всього парку.\nДокументація Prometheus прямо про це каже: квантилі, які обчислює summary,\nагрегувати не можна, а кошики гістограми можна спершу підсумувати й лише тоді\nобчислити квантиль.\n\n**Секундомір вмикають не там.** Сервер, що міряє від початку роботи\nобробника, пропускає час, який запит провів у балансувальнику навантаження, у\nчерзі прийому з'єднань чи в очікуванні з'єднання з пулу. Генератори\nнавантаження, які чекають на кожну відповідь, перш ніж надіслати наступний\nзапит, надсилають менше запитів саме тоді, коли система застрягає, і застій\nмайже не видно в результатах. Вимірюйте й на боці клієнта, а сервер нехай\nповідомляє свою частку в стандартному заголовку:\n\n```http\nServer-Timing: db;dur=53, app;dur=47.2\n```\n\n**Розмова надто балакуча.** Сторінка, що виконує по одному запиту на кожен\nрядок списку, платить по одному обміну за рядок. Якщо база в іншому регіоні й\nобмін коштує 30 мс, то сто рядків забирають три секунди ще до того, як\nбудь-який запит зробить справжню роботу. Один запит з join або один пакетний\nвиклик платить за відстань один раз.\n\n**Повторні спроби множать навантаження.** Клієнт, що здається через секунду й\nпробує ще тричі, перетворює один повільний сервер на вчетверо більший трафік, і\nсервер від цього стає ще повільнішим. Дайте кожному запиту загальний дедлайн,\nзбільшуйте паузу між спробами експоненційно й з випадковим розкидом і обмежте\nкількість повторів.\n\n## Що почитати далі\n\n- [RFC 2681: A Round-trip Delay Metric for IPPM](https://www.rfc-editor.org/rfc/rfc2681)\n  — затримка обміну, визначена до біта, з явними правилами для втрачених\n  відповідей і перцентилів.\n- [RFC 7679: A One-Way Delay Metric for IP Performance Metrics](https://www.rfc-editor.org/rfc/rfc7679)\n  — відповідник для затримки в один бік, ухвалений як Internet Standard.\n- [Server Timing](https://www.w3.org/TR/server-timing/) — заголовок W3C, яким\n  сервер повідомляє браузеру, на що пішов час.\n- [Histograms and summaries](https://prometheus.io/docs/practices/histograms/)\n  — чому квантилі із summary не поєднуються, а кошики гістограми поєднуються.\n- [RFC 8446: TLS 1.3](https://www.rfc-editor.org/rfc/rfc8446) — будова\n  рукостискання, зокрема обмін, який воно заощаджує.\n\n\u003chttps://engineer.company/uk/glossary/latency/\u003e\n","date_modified":"2026-11-12T05:34:23Z","description":"Що вимірює затримка, чому перцентилі чесніші за середнє, як складаються мережеві обміни й черги і як знайти повільний запит, перш ніж купувати залізо.","formats":{"gemtext":"https://engineer.company/uk/glossary/latency/index.gmi","gopher":"https://engineer.company/uk/glossary/latency/gophermap","html":"https://engineer.company/uk/glossary/latency/","json":"https://engineer.company/uk/glossary/latency/index.json","markdown":"https://engineer.company/uk/glossary/latency/index.md","pdf":"https://engineer.company/uk/glossary/latency/index.pdf"},"kind":"page","language":"uk","title":"Що таке затримка?","url":"https://engineer.company/uk/glossary/latency/","version":1}