{"canonical_url":"https://engineer.company/nb/glossary/exponential-backoff/","content_markdown":"# Eksponentiell backoff\n\n## Hva det er\n\nEksponentiell backoff er en regel for hvor lenge man skal vente før man prøver\nigjen. Etter hvert mislykket forsøk ganges ventetiden med en fast faktor, som\noftest to, til den når et tak: ett sekund, så to, fire, åtte og så videre.\nRegelen ligger i klienten, men er til for tjenesten klienten kaller. En\nserver, en nettverksvei eller en database som svikter under for mye last, kommer\nseg ikke raskere av å bli spurt igjen med en gang. Den kommer seg når de som\nkaller den, letter på trykket, og en ventetid som vokser med hver feil, får dem\ntil å lette mer jo lenger problemet varer.\n\nDet eldste og mest utbredte eksempelet finnes i TCP. RFC 6298, dokumentet i\nStandards Track fra juni 2011 som spesifiserer hvordan TCP beregner\ntidsavbruddet for retransmisjon (retransmission timeout), setter dette\ntidsavbruddet til ett sekund før den første rundturstiden (round-trip time) er\nmålt, og sier at en beregnet verdi under ett sekund bør rundes opp. Hver gang\ntidtakeren løper ut og et segment må sendes på nytt, må verten doble\ntidsavbruddet. En øvre grense er tillatt, så lenge den er minst 60 sekunder. Når\nen fersk måling av rundturstiden kommer inn, beregnes tidsavbruddet fra\nmålingene igjen, og det kan bringe det rett ned igjen etter en rekke doblinger.\nAlgoritmen går tilbake til Van Jacobsons artikkel Congestion Avoidance and\nControl fra 1988, og avsnittet om sikkerhet i RFC-en sier hva som står på spill:\ninternett er avhengig av en korrekt tidtaker for retransmisjon for å holde\nnettet stabilt og unngå kollaps på grunn av overbelastning (congestion\ncollapse).\n\nI applikasjonskode kommer den samme ideen med en håndfull innstillinger: en\ninnledende ventetid, en multiplikator, en maksimal ventetid der veksten stopper,\nog en grense for antall forsøk eller for den samlede tiden som brukes på nye\nforsøk. Skrevet som formel er ventetiden etter den n-te feilen den minste av to\nverdier: taket, og grunnventetiden ganget med multiplikatoren opphøyd i n, der n\ntelles fra null. AWS-analysen som omtales nedenfor, kaller dette capped\nexponential backoff, altså eksponentiell backoff med tak. Taket betyr mer enn\ndet ser ut til. Dobler man en ventetid på ett sekund ti ganger, får man 1 024\nsekunder, mer enn 17 minutter, og det er lenger enn de fleste vil vente på noe\nsom helst.\n\nDen siste innstillingen er jitter, et tilfeldig element i hver ventetid.\nProtokollen for connection backoff i gRPC, som beskriver hvordan gRPC-klienter\nkobler seg til på nytt etter en mislykket tilkobling, starter på ett sekund,\nganger med 1,6, slutter å vokse ved 120 sekunder og bruker en jitter på 0,2,\nslik at hver ventetid flyttes tilfeldig opp eller ned med inntil 20 %. Den gir\nogså hvert tilkoblingsforsøk minst 20 sekunder på å fullføre, og den nullstiller\nbackoff til startverdien så snart serveren har godtatt en tilkobling, noe den\nregner som øyeblikket da SETTINGS-rammen kommer fram. Protokollen tillater andre\nimplementasjoner, for eksempel på en mobiltelefon som bør våkne så sjelden som\nmulig, men krever at backoff-perioder som startet samtidig, sprer seg, og at\ningen implementasjon prøver å koble til vesentlig oftere.\n\n## Hvorfor det er viktig\n\nEt nytt forsøk er ekstra last, og det kommer på verst tenkelige tidspunkt:\nakkurat når det som kalles, svikter. Hvis en tjeneste går tregere fordi den er\noverbelastet, og alle som kaller den, svarer med å prøve igjen med en gang,\nstiger lasten mens kapasiteten faller. Derfor regner dokumentasjonen for Google\nCloud Storage nye forsøk uten backoff som et antimønster: umiddelbare eller\nsvært korte nye forsøk kan føre til kaskadefeil, der én feil utløser andre. Med\nbackoff blir det nye forsøket en brems i stedet for en forsterker: jo lenger\nproblemet varer, desto mindre legger hver klient til det.\n\nBackoff alene er ikke nok, for klienter som feiler sammen, venter også sammen. I\nExponential Backoff And Jitter, publisert av AWS i mars 2015, simulerte Marc\nBrooker mange klienter som brukte optimistisk samtidighetskontroll (optimistic\nconcurrency control) til å oppdatere den samme raden i en ekstern database. Når\nhver klient konkurrerte i hver runde, vokste det samlede arbeidet med kvadratet\nav antall klienter. Eksponentiell backoff med tak hjalp bare litt. Kallene kom\nfortsatt i klynger, med stille hull imellom, så konkurransen falt knapt. Å legge\ntil jitter, ved å trekke hver ventetid tilfeldig mellom null og den\neksponentielle verdien med tak, fjernet hullene, ga en tilnærmet jevn strøm av\nkall og kuttet antall kall med mer enn halvparten i tilfellet med 100\nkonkurrerende klienter. Av variantene han sammenlignet, var backoff uten jitter\nmed Brookers ord «den klare taperen». Han var også tydelig på grensen: ingen av\ntilnærmingene endrer det faktum at arbeidet vokser med kvadratet av\nkonkurransen. Jitter reduserer sløsingen; den fjerner ikke konflikten. I en\noppdatering fra mai 2023 opplyser innlegget at de fleste AWS SDK-er nå har\neksponentiell backoff og jitter i standardmodusen og den adaptive modusen for\nnye forsøk.\n\nBackoff avgjør når man skal prøve igjen, ikke om det er trygt å gjøre det.\nDokumentasjonen for Cloud Storage stiller to spørsmål først. Det ene er om\nsvaret peker på et forbigående problem: HTTP-statuskodene 408, 429 og 5xx,\ntidsavbrudd på socketen og brutte TCP-forbindelser. Det andre er om\nforespørselen er idempotent. En listeoperasjon kan gjentas fritt. Å opprette en\nPub/Sub-varsling kan ikke det, fordi hvert vellykket kall oppretter en ny\nvarsling. Mellom de to ligger betinget idempotente operasjoner, som blir trygge\nå prøve på nytt når de har en forutsetning, for eksempel en opplasting som bare\nlykkes hvis objektets generasjonsnummer fortsatt er det klienten forventer.\n\nNoen ganger vet serveren bedre enn klientens formel. Headerfeltet Retry-After,\ndefinert i RFC 9110, forteller klienten hvor lenge den bør vente før en\noppfølgende forespørsel, enten som en dato eller som et antall sekunder, og\nsammen med svaret 503 Service Unavailable sier det hvor lenge tjenesten regner\nmed å være utilgjengelig. Statuskoden 429 Too Many Requests fra RFC 6585, som\nsignaliserer hastighetsbegrensning, kan ha det samme feltet. En klient med en\nbackoff-løkke kan bruke den verdien i stedet for sin egen beregnede ventetid,\nsiden den kommer fra den siden som kan se sin egen last.\n\n## Slik ser det ut i praksis\n\nEn løkke for nye forsøk med eksponentiell backoff med tak og full jitter får\nplass i noen få linjer Python:\n\n```python\nimport random\nimport time\n\nclass TransientError(Exception):\n    \"\"\"Tidsavbrudd, 408-, 429- eller 5xx-svar eller brutt tilkobling.\"\"\"\n\ndef call_with_backoff(op, attempts=5, base=1.0, cap=30.0):\n    for attempt in range(attempts):\n        try:\n            return op()\n        except TransientError:\n            if attempt == attempts - 1:\n                raise\n            ceiling = min(cap, base * 2**attempt)\n            time.sleep(random.uniform(0, ceiling))\n```\n\nMed disse verdiene skilles fem forsøk av fire ventetider med tak på 1, 2, 4 og 8\nsekunder. Løkken sover derfor i høyst 15 sekunder før den gir opp, og i\ngjennomsnitt i omtrent 7,5 sekunder, siden hver ventetid trekkes jevnt mellom\nnull og taket sitt. Bare `TransientError` prøves på nytt; en autorisasjonsfeil\neller en feilformet forespørsel kaster unntaket med en gang. Og løkken gjentar\nalt `op` gjør, så `op` må være trygg å gjenta: en lesing, eller en skriving som\nserveren kan kjenne igjen som en gjentakelse.\n\nKlientbiblioteker har sine egne versjoner av denne løkken, og standardverdiene\nderes er forskjellige, selv for den samme tjenesten. For Cloud Storage starter\nPython-klienten på ett sekund, dobler hver ventetid opp til 60 sekunder og gir\nopp etter en standardfrist på 120 sekunder. C++-klienten starter også på ett\nsekund og dobler, men venter opptil fem minutter mellom forsøkene og fortsetter\nmed nye forsøk i opptil 15 minutter, mer enn sju ganger så lenge. Den prøver\nogså på nytt operasjoner som aldri er idempotente, med mindre programmet velger\nen streng idempotenspolicy. Kommandolinjeverktøyet gcloud bruker det Google\nkaller truncated binary exponential backoff, med opptil 32 nye forsøk som\nstandard. To programmer som kaller det samme API-et med den samme feilen, kan\naltså rapportere den etter to minutter eller etter et kvarter, alt etter hvilket\nspråk de er skrevet i.\n\nVentingen trenger ikke å blokkere en tråd. I bakgrunnsarbeid kan en jobb som\nfeiler, legges tilbake i en [kø](/nb/glossary/#queue) med et senere tidspunkt\nfor kjøring, og da blir backoff en egenskap ved jobben og ikke ved en prosess\nsom sover. Det er det naturlige stedet for den når ingen venter på svaret.\n\nI\n[e-post med failover og leveringslogging](/nb/portfolio/built-email-with-failover-and-delivery-logging/),\nfra 2025, sitter backoff på den asynkrone siden av systemet. Meldingene sendes\ngjennom tre leverandører, med SendGrid som primær og SMTP2GO og Azure\nCommunication Services i reserve, og failover mellom dem skjer automatisk. Selve\nsendingen går gjennom en klient med et tidsavbrudd på 30 sekunder, og den\nasynkrone leveringsveien prøver på nytt med backoff, slik at en kort\nforstyrrelse ikke koster en melding. Porteføljesiden oppsummerer resultatet: når\nén leverandør har en dårlig ettermiddag, går e-posten over i degradert drift i\nstedet for å stanse helt. Den nevner også prisen, som er tre integrasjoner å\nvedlikeholde i stedet for én.\n\n## Hvor det går galt\n\n**Alle klientene venter like lenge.** Uten jitter prøver klienter som feilet\nsammen, igjen sammen, og serveren ser den samme toppen igjen etter ett, to, fire\nog åtte sekunder. Brookers simulering viste at vanlig eksponentiell backoff av\ndenne grunn knapt reduserte konkurransen. Legg til jitter: i hans sammenligning\nkuttet både Full Jitter og Decorrelated Jitter klientarbeidet og serverlasten\nbetydelig, og begge er et fornuftig standardvalg.\n\n**Ventetiden har ikke noe tak, eller de nye forsøkene tar aldri slutt.** En\ndobling uten tak passerer 17 minutter etter ti feil, og en løkke uten grense\nholder en forespørsel i live lenge etter at den som ventet på svaret, har gitt\nopp. Google regner det å ignorere grenser for nye forsøk som et antimønster: å\nprøve på nytt i det uendelige kan tømme applikasjonens ressurser eller fortsette\nå sende forespørsler til en tjeneste som ikke kommer seg uten inngrep. Sett en\nmaksimal ventetid og en samlet frist som er tilpasset den som kaller: korte der\nlatens betyr noe, og lengre for batcharbeid.\n\n**Permanente feil prøves på nytt.** En autorisasjonsfeil eller en ugyldig\nforespørsel feiler på samme måte hver gang. Et nytt forsøk utsetter bare feilen,\nog uten en grense kan klienten havne i en uendelig løkke, som dokumentasjonen\nfor Cloud Storage advarer om. Sorter feilene i forbigående og permanente før\nløkken, prøv bare de forbigående på nytt, som 408, 429, 5xx og brutte\ntilkoblinger, og logg resten med årsaken.\n\n**En operasjon som ikke er idempotent, prøves på nytt i blinde.** Hvis en\nforespørsel fikk tidsavbrudd etter at serveren allerede hadde utført den,\ngjentar et nytt forsøk handlingen, noe Googles liste over antimønstre beskriver\nsom utilsiktede overskrivinger eller slettinger av data. Prøv bare idempotente\noperasjoner på nytt, gjør skrivinger betingede der API-et tillater det, og sørg\nellers for at mottakersiden kan oppdage et duplikat.\n\n**Nye forsøk er lagt inn i flere lag.** Hvis applikasjonen gjør tre forsøk og\nklientbiblioteket under den gjør tre forsøk for hvert av disse forsøkene, blir\nén feil til ni forsøk, som er Googles eget eksempel, og hvert ytterligere lag\nsom prøver på nytt på egen hånd, ganger opp antallet igjen. Dokumentasjonen\nlegger til at så mange nye forsøk kan føre til struping av forespørsler\n(throttling) og høyere latens uten at andelen vellykkede forespørsler blir\nbedre. Prøv på nytt i ett lag, som regel i biblioteket, og slå av eller skru ned\nnye forsøk i de andre.\n\n**Backoff nullstilles aldri, eller ingen ser den.** En klient som beholder sin\nsiste, lange ventetid etter at alt har kommet seg, sitter ut hele maksimumet ved\nneste lille feil; gRPC går tilbake til den innledende backoff-verdien så snart\nen tilkobling er godtatt, og TCP beregner tidtakeren sin på nytt fra ferske\nmålinger. Nullstill etter et vellykket kall. Og fordi nye forsøk skjuler\nproblemer for brukerne, skjuler de dem også for teamet. Tell dem i\n[overvåkingen](/nb/glossary/#monitoring) og send et\n[driftsvarsel](/nb/glossary/#alert) når andelen nye forsøk stiger, for en\navhengighet som trenger tre forsøk per kall, svikter allerede.\n\n## Les mer\n\n- [RFC 6298: Computing TCP's Retransmission Timer](https://www.rfc-editor.org/rfc/rfc6298.html)\n  — reglene i Standards Track for tidsavbruddet for retransmisjon i TCP,\n  inkludert doblingen hver gang tidtakeren løper ut.\n- [gRPC Connection Backoff Protocol](https://github.com/grpc/grpc/blob/master/doc/connection-backoff.md)\n  — algoritmen for ny tilkobling, de fem parameterne med verdiene deres, og når\n  backoff nullstilles.\n- [Exponential Backoff And Jitter](https://aws.amazon.com/blogs/architecture/exponential-backoff-and-jitter/)\n  — Marc Brookers simulering fra 2015 av konkurrerende klienter, som\n  sammenligner backoff uten jitter med Full, Equal og Decorrelated Jitter.\n- [Retry strategy](https://docs.cloud.google.com/storage/docs/retry-strategy) —\n  hva Cloud Storage regner som trygt å prøve på nytt, standardverdiene i hvert\n  klientbibliotek og fem antimønstre for nye forsøk.\n- [RFC 9110: HTTP Semantics](https://www.rfc-editor.org/rfc/rfc9110.html#section-10.2.3)\n  — feltet Retry-After, som en server bruker til å fortelle en klient hvor lenge\n  den skal vente før neste forespørsel.\n\n\u003chttps://engineer.company/nb/glossary/exponential-backoff/\u003e\n","date_modified":"2026-11-12T05:34:23Z","description":"Hvorfor en klient bør vente lenger etter hvert mislykket forsøk, hvordan jitter sprer de nye forsøkene, og når de gjør mer skade enn nytte.","formats":{"gemtext":"https://engineer.company/nb/glossary/exponential-backoff/index.gmi","gopher":"https://engineer.company/nb/glossary/exponential-backoff/gophermap","html":"https://engineer.company/nb/glossary/exponential-backoff/","json":"https://engineer.company/nb/glossary/exponential-backoff/index.json","markdown":"https://engineer.company/nb/glossary/exponential-backoff/index.md","pdf":"https://engineer.company/nb/glossary/exponential-backoff/index.pdf"},"kind":"page","language":"nb","title":"Hva er eksponentiell backoff?","url":"https://engineer.company/nb/glossary/exponential-backoff/","version":1}