{"canonical_url":"https://engineer.company/uk/glossary/load-balancer/","content_markdown":"# Балансувальник навантаження\n\n## Що це таке\n\nБалансувальник навантаження — це сервер, який приймає запити клієнтів і\nрозподіляє їх між пулом інших серверів, що виконують ту саму роботу. Жодна\nокрема машина не несе всього навантаження, і відмова однієї не забирає із собою\nвесь сервіс. Англійською це load balancer, у конфігураціях і на схемах його\nчасто скорочують до LB, а в розмові кажуть просто «балансер». Сама робота\nназивається балансуванням навантаження. Клієнти бачать одну адресу — адресу\nбалансувальника. Сервери за ним утворюють пул, який nginx називає групою\nupstream, а HAProxy — бекендом.\n\nДля кожного запиту балансувальник ухвалює два рішення: які сервери досить\nздорові, щоб його отримати, і котрий із них його отримає. Друге рішення — це\nметод балансування. Round robin віддає запити серверам по черзі, і саме так\nповодиться nginx, коли нічого іншого не налаштовано. Least connections, тобто\n«найменше з'єднань», надсилає наступний запит серверу з найменшою кількістю\nактивних з'єднань і вирівнює навантаження, коли одні запити тривають набагато\nдовше за інші. Посібник HAProxy радить цей метод для довгих сесій на кшталт LDAP\nчи SQL і вважає його невдалим вибором для коротких, як-от HTTP. Хешування\nперетворює ключ, наприклад IP-адресу клієнта чи запитаний URL, на вибір сервера,\nтож той самий ключ щоразу потрапляє на ту саму машину. nginx має й випадковий\nметод: він може навмання вибрати два сервери й віддати запит менш завантаженому\nз них. Ваги зсувають вибір у бік більших машин: у прикладі з власного посібника\nnginx один сервер із `weight=3` і два з типовою вагою 1 отримують відповідно\nтри, один і один запит із кожних п'яти.\n\nБалансувальники різняться й тим, наскільки глибоко вони читають трафік. У режимі\n`mode tcp`, який у HAProxy є типовим, клієнт і сервер з'єднуються\nповнодуплексним з'єднанням без жодного аналізу на рівні 7. Це підходить для TLS,\nякий проходить крізь балансувальник нерозшифрованим, для SSH і SMTP. У режимі\n`mode http` HAProxy розбирає кожен запит, перш ніж вибрати сервер, відхиляє\nзапити, що порушують протокол, і може маршрутизувати за шляхом чи заголовком.\nБалансувальник, що працює на рівні HTTP, завершує з'єднання клієнта й відкриває\nвласне до сервера. Через це застосунок бачить балансувальник своїм єдиним\nклієнтом, якщо той не передає справжню адресу далі, зазвичай у заголовку\n`X-Forwarded-For`. З тієї ж причини балансувальник і зворотний проксі так часто\nє одним і тим самим процесом: nginx — і те, і те, а його власний посібник описує\nбалансування навантаження як частину реалізації зворотного проксі.\n\n## Чому це важливо\n\nОдин сервер має стелю. Коли сервіс її переростає, саме балансувальник дає\nкоманді змогу поставити другу й третю копію замість купувати більшу машину, і\nкожна нова копія додає потужності так, що клієнти навіть не помічають змін у\nпулі. Та сама схема робить обслуговування буденним: виведіть один сервер із\nротації, оновіть його, перевірте, поверніть назад і повторіть із наступним, поки\nкористувачів обслуговують інші.\n\nВона ж перетворює відмову сервера з аварії на меншу подію. Коли сервер перестає\nвідповідати, балансувальник перестає його обирати, а решта серверів перебирає на\nсебе його частку. Це працює лише тоді, коли в них є запас потужності. Три\nсервери, кожен із яких завантажений на 80%, не здатні підстрахувати один одного:\nякщо один випаде, кожен із двох інших отримає 120% роботи одного сервера.\n\nБалансувальник змінює й те, як треба писати застосунок. Як зауважує посібник\nnginx, за методів round robin і least connections два послідовні запити одного\nклієнта можуть потрапити на різні сервери. Усе, що сервер тримає у своїй пам'яті\nчи на своєму диску між запитами, — сесію входу, завантажений файл, що чекає на\nобробку, кеш кошика користувача — буде недоступне, якщо наступний запит потрапить на\nінший сервер. Тож або застосунок зберігає такий стан там, куди дотягуються всі\nсервери, у базі даних чи спільному кеші, або балансувальник закріплює кожного\nклієнта за одним сервером. Так робить `ip_hash` у nginx, за винятком випадків,\nколи цей сервер недоступний.\n\nІ нарешті, сам балансувальник стає тією єдиною машиною, крізь яку проходить\nкожен запит. Десять серверів застосунку за одним балансувальником усе ще мають\nєдину точку відмови — вона просто перемістилася. У серйозній інсталяції\nбалансувальники працюють парою зі спільною адресою, яка може переходити від\nодного до іншого, або ж використовують керований балансувальник, за резервування\nякого відповідає провайдер.\n\n## Як це виглядає на практиці\n\nТут сервер nginx розподіляє запити між трьома серверами застосунку й тримає\nчетвертий у резерві:\n\n```nginx\nupstream app {\n    least_conn;\n    server 10.0.0.11:8080 max_fails=3 fail_timeout=30s;\n    server 10.0.0.12:8080 max_fails=3 fail_timeout=30s;\n    server 10.0.0.13:8080 max_fails=3 fail_timeout=30s weight=2;\n    server 10.0.0.20:8080 backup;\n}\n\nserver {\n    listen 80;\n    location / {\n        proxy_pass http://app;\n        proxy_set_header Host $host;\n        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;\n        proxy_next_upstream error timeout http_502 http_503;\n        proxy_next_upstream_tries 2;\n        proxy_connect_timeout 2s;\n    }\n}\n```\n\n`least_conn` надсилає кожен новий запит серверу з найменшою кількістю активних\nз'єднань, а нічию розв'язує зваженим round robin. Третій сервер — найпотужніша\nмашина, тому `weight=2` рахує його подвійно. `max_fails=3 fail_timeout=30s`\nозначає, що три невдалі спроби протягом 30 секунд виводять сервер із пулу на 30\nсекунд. Після цього nginx знову пробує його на живих запитах і повертає до пулу,\nякщо вони вдаються. Без цих параметрів діють типові значення, і тоді досить\nоднієї невдачі за 10 секунд. Сервер із позначкою `backup` отримує запити лише\nтоді, коли недоступні всі три основні.\n\nУ блоці `location` директива `proxy_next_upstream` визначає, коли запит\nпередається іншому серверу: у разі помилки під час обміну із сервером, тайм-ауту\nабо відповіді 502 чи 503. `proxy_next_upstream_tries 2` обмежує, скільки разів\nтаке може статися з одним запитом; типове значення 0 означає «без обмежень». Два\nрядки `proxy_set_header` зберігають ім'я хоста, яке запитав клієнт, — інакше\nnginx підставив би замість нього ім'я групи `app`, — і додають адресу клієнта до\n`X-Forwarded-For`, щоб застосунок записував у журнали справжніх відвідувачів, а\nне балансувальник. `proxy_connect_timeout 2s` відмовляється від сервера, який не\nприйняв з'єднання за дві секунди, тоді як за замовчуванням nginx чекав би 60.\n\nЦі перевірки пасивні: nginx дізнається, що сервер хворий, лише коли на ньому\nпадають справжні запити. HAProxy вміє ще й сам опитувати кожен сервер за власним\nрозкладом. `option httpchk GET /healthz` у бекенді разом із `check` у кожному\nрядку `server` за замовчуванням надсилає цей запит кожні дві секунди; три\nневдачі поспіль позначають сервер як непрацездатний, а дві успішні відповіді\nповертають його назад. Без `check` HAProxy не виконує перевірок справності й\nвважає сервер завжди доступним.\n\nПерш ніж стати балансувальником, nginx є вебсервером, і досить звичайним. Він —\nодин із двох вебсерверів, на яких трималися\n[40 вебсайтів на Apache і Nginx](/uk/portfolio/administered-40-websites-on-apache-and-nginx/)\nу 2003–2014 роках: сайти розміщувалися на серверах хостингу з Ubuntu Linux, а\nїхню конфігурацію, продуктивність і обслуговування вели так, щоб вони надійно\nвитримували реальний трафік. Рядок `backup` має родича рівнем вище, де серверами\nє цілі провайдери.\n[Пошта з failover між трьома провайдерами](/uk/portfolio/built-email-with-failover-and-delivery-logging/)\nтримає SendGrid як основний, SMTP2GO та Azure Communication Services у резерві\nза ним і перемикається між ними автоматично. Це перетворило невдалий день у провайдера\nна роботу в деградованому режимі замість аварії.\n\n## Де виникають проблеми\n\n**Сервер, що відповідає 500 на кожен запит, лишається в пулі.** За замовчуванням\nnginx вважає невдалою спробою лише помилку під час обміну із сервером, тайм-аут\nі некоректні заголовки відповіді. Сервер, чий застосунок утратив зв'язок із\nбазою даних і на все повертає 500, відповідає швидко й чемно, тож балансувальник\nі далі надсилає йому його частку трафіку. Відповіді 500, 502, 503, 504 і 429\nзараховуються серверу як невдачі лише тоді, коли їх перелічено в\n`proxy_next_upstream`, а 403 і 404 — ніколи. Перелічіть коди, що означають\n«сервер зламався», і дайте серверам активну перевірку на ендпоінт, який зачіпає\nвсе, що потрібно застосунку, щоб віддати сторінку.\n\n**Один повільний запит по черзі виконується на кожному сервері.** `timeout`\nвходить до типового значення `proxy_next_upstream`, а `proxy_read_timeout` за\nзамовчуванням дорівнює 60 секундам. Звіт, на побудову якого йде 70 секунд,\nотримує тайм-аут на першому сервері, переходить на другий, знову отримує\nтайм-аут і йде на третій. Клієнт чекає три хвилини, а кожен сервер тим часом\nвиконує ту саму роботу. Тайм-аут завжди вважається невдалою спробою, тому за\nтипового `max_fails`, що дорівнює 1, кожен сервер, якого торкнувся запит, ще й\nпозначається недоступним на 10 секунд. Обмежте передачі директивами\n`proxy_next_upstream_tries` і `proxy_next_upstream_timeout`, виділіть повільному\nендпоінту окремий `location` із довшим тайм-аутом або винесіть роботу із запиту\nу фонове завдання.\n\n**Платіж проходить двічі.** nginx за замовчуванням не передає запит POST, LOCK\nчи PATCH іншому серверу, якщо запит уже дійшов до одного з них, бо перший сервер\nміг устигнути його виконати. Якщо додати `non_idempotent` до\n`proxy_next_upstream`, щоб позбутися тайм-аутів, цей захист зникає: платіж, який\nперший сервер провів, але відповів надто повільно, другий проведе знову. Не\nвмикайте цей параметр, доки кожен ендпоінт за ним не стане\n[ідемпотентним](/uk/glossary/#idempotent), наприклад приймаючи ключ\nідемпотентності й відмовляючись повторювати запит, який уже бачив.\n\n**Усі відвідувачі ніби приходять із балансувальника.** Без заголовків із\nприкладу застосунок записує в журнал адресу балансувальника для кожного запиту,\nа будь-яке обмеження за IP-адресою відтепер діє на всіх користувачів одночасно.\n`X-Forwarded-For` має й власну пастку. `$proxy_add_x_forwarded_for` дописує\nадресу клієнта до того `X-Forwarded-For`, який клієнт уже надіслав сам, тож\nкрайні ліві записи містять те, що клієнт вирішив туди написати. Застосунку варто\nдовіряти лише запису, який додав його власний балансувальник, і приймати цей\nзаголовок лише з адреси балансувальника.\n\n**Цілий офіс опиняється на одному сервері.** `ip_hash` у nginx хешує перші три\nоктети адреси IPv4, тож усі клієнти, у яких вони збігаються, потрапляють на той\nсамий сервер, а ціла компанія за одним шлюзом NAT приходить як один клієнт.\nЗміни в пулі дають протилежну несподіванку. Зі звичайним `hash` додавання чи\nвилучення сервера може перенести більшість ключів на інші сервери, і кожен\nзакріплений так користувач утрачає все, що тримав його старий сервер.\nДокументація nginx радить позначати сервер як `down`, а не видаляти його з групи\n`ip_hash`, і пропонує `hash ... consistent`, що за зміни пулу переносить лише\nкілька ключів. А ще краще тримати стан сесій поза серверами — тоді вже\nневажливо, куди потрапить клієнт.\n\n## Що почитати далі\n\n- [Using nginx as HTTP load balancer](https://nginx.org/en/docs/http/load_balancing.html)\n  — три базові методи, ваги, закріплення сесій і пасивні перевірки справності,\n  кожне з короткою конфігурацією.\n- [Module ngx_http_upstream_module](https://nginx.org/en/docs/http/ngx_http_upstream_module.html)\n  — усі параметри рядка `server`, зокрема `max_fails`, `backup` і виняток для\n  груп з одним сервером, а також методи `hash`, `ip_hash`, `least_conn` і\n  `random`.\n- [Module ngx_http_proxy_module](https://nginx.org/en/docs/http/ngx_http_proxy_module.html)\n  — `proxy_next_upstream` і те, що вважається невдалою спробою, тайм-аути та\n  заголовки, які nginx виставляє дорогою до сервера.\n- [HAProxy 3.4 Configuration Manual](https://docs.haproxy.org/3.4/configuration.html)\n  — `balance` та його алгоритми, режими TCP і HTTP, а також активні перевірки\n  справності з `check`, `inter`, `rise` і `fall`.\n\n\u003chttps://engineer.company/uk/glossary/load-balancer/\u003e\n","date_modified":"2026-11-12T05:34:23Z","description":"Як балансувальник навантаження обирає сервер для кожного запиту, як помічає хворий сервер і п'ять способів, у які збалансований пул усе одно підводить.","formats":{"gemtext":"https://engineer.company/uk/glossary/load-balancer/index.gmi","gopher":"https://engineer.company/uk/glossary/load-balancer/gophermap","html":"https://engineer.company/uk/glossary/load-balancer/","json":"https://engineer.company/uk/glossary/load-balancer/index.json","markdown":"https://engineer.company/uk/glossary/load-balancer/index.md","pdf":"https://engineer.company/uk/glossary/load-balancer/index.pdf"},"kind":"page","language":"uk","title":"Що таке балансувальник навантаження?","url":"https://engineer.company/uk/glossary/load-balancer/","version":1}