{"canonical_url":"https://engineer.company/nb/glossary/latency/","content_markdown":"# Latens\n\n## Hva det er\n\nLatens er hvor lang tid et system bruker på å begynne å svare: tiden fra en forespørsel forlater\nklienten til den første byten av svaret kommer tilbake. Ingeniører kaller det også forsinkelse eller\netterslep, og for en nettverksvei målt dit og tilbake rundturtid, round-trip time (RTT); innen\nytelse på nett heter den samme ideen tid til første byte, time to first byte (TTFB). Svartid er den\nstørre søsteren, som løper til den siste byten av svaret.\n\nLatens er lett å forveksle med gjennomstrømning og båndbredde, og de tre svarer på forskjellige\nspørsmål. Båndbredde er hvor mange biter en forbindelse kan bære per sekund. Gjennomstrømning er\nhvor mye arbeid et system gjør ferdig per sekund. Latens er hvor lenge ett enkelt stykke arbeid\nventer. En nattlig batchjobb kan ha utmerket gjennomstrømning og elendig latens, og en chatserver\ndet motsatte.\n\nHvert millisekund av den kommer fra ett av noen få steder:\n\n- **utbredelse**, signalet som krysser avstanden: lys i optisk fiber tilbakelegger omtrent 200 km\n  per millisekund, så en vei på 1 000 km koster minst 10 ms tur-retur før noen programvare har\n  kjørt;\n- **overføring**, å legge bytene ut på ledningen, noe som betyr noe for store nyttelaster på trege\n  forbindelser;\n- **kø**, venting bak annet arbeid i en buffer i en ruter, en trådpool, en tilkoblingspool eller en\n  lås, den ene komponenten som vokser med belastningen;\n- **behandling**, selve arbeidet: spørringen, malen, krypteringen;\n- **rundturer i protokollen**, samtalen før den første nyttige byten. En ny HTTPS-tilkobling over TCP trenger\n  først et TCP-håndtrykk og et TLS-håndtrykk, og TLS 1.3 kuttet det fulle håndtrykket sitt ned til\n  én enkelt rundtur.\n\nArbeidsgruppen IP Performance Metrics i IETF slo fast nettverksvarianten i RFC 2681: forsinkelsen\ntur-retur løper fra den første biten i en pakke som sendes, til den siste biten i svaret som tas\nimot. To av valgene der gjelder for enhver tjeneste. Et svar som aldri kommer, regnes som udefinert,\nuformelt uendelig, i stedet for å bli utelatt fra utvalget i det stille. Og statistikken RFC-en\nbeskriver, er persentiler, medianen og minimumsverdien. Den påpeker også at minimum bare gjenspeiler\nutbredelse og overføring, mens alt over minimum tyder på overbelastning, et skille som gjelder like\ngodt for et API som for en vei mellom rutere.\n\nFor én enkelt webforespørsel deler curl ventetiden opp i stegene sine:\n\n```sh\ncurl -s -o /dev/null \"$URL\" -w '\ndns        %{time_namelookup}\nconnect    %{time_connect}\ntls        %{time_appconnect}\nfirst byte %{time_starttransfer}\ntotal      %{time_total}\n'\n```\n\nHvert tall er sekunder siden starten, så det er mellomrommene mellom dem som er kostnadene:\noppslaget av navnet i DNS, åpningen av tilkoblingen, TLS-håndtrykket og så serverens egen tenketid\nfrem til første byte.\n\n## Hvorfor det er viktig\n\nLatens er det en bruker kjenner; gjennomstrømning er det serverregningen\ngjenspeiler. Når en side er treg, er spørsmålet hvor pengene skal brukes. De fem\nkomponentene ovenfor trenger forskjellige løsninger; fire av dem viser hvorfor\nkjøp av maskinvare ikke er et generelt botemiddel. Avstand reduseres ved å\nflytte nærmere: en cache, et CDN, en region nær brukerne. Tiden brukt på\nrundturer reduseres ved å ha færre av dem: gjenbruke tilkoblinger, samle\nspørringer i batcher, hente parallelt. Behandlingstiden reduseres ved å gjøre\nmindre arbeid: en indeks, en bedre spørreplan. Mer kapasitet kan redusere køventingen; raskere prosessorer, mer minne eller bedre I/O kan også redusere behandlingstiden når disse ressursene er flaskehalsen. En større server er ikke automatisk raskere: mål hvor tiden går før du velger maskinvare.\n\nGjennomsnitt får problemet til å se mindre ut enn det er, fordi brukerne møter halen. En side som\nkaller ti tjenester i backend parallelt, venter på den tregeste. Hvis hvert kall uavhengig av de andre har 1 % sannsynlighet for å være tregt, treffer 1 − 0,99¹⁰, ca. 9,6 % av sidevisningene, minst ett tregt kall. En sjelden\nforsinkelse i delene blir en vanlig forsinkelse i helheten.\n\nDerfor skrives seriøse mål i persentiler, for eksempel at 99 % av forespørslene besvares innen 300\nms over 30 dager, og derfor er den 99. persentilen som regel tallet det er verdt å følge med på.\nMedianen sier hvordan tjenesten føles en god dag; de høye persentilene sier hvordan den føles for\nkundene som er i ferd med å gå.\n\n## Slik ser det ut i praksis\n\nI en geografisk kartapplikasjon gikk latensen ved gjengivelse av kartlag og\nspørringer mot stedsbaserte data ut over både brukerne og påliteligheten til\nbackend. Arbeidet var rettet mot behandling av romlige spørringer i en backend\nsom brukte en eldre Microsoft SQL Server-database. [Overgangen til PostgreSQL\nmed PostGIS kuttet gjennomsnittlig svartid fra 2,5 sekunder til under 250\nmillisekunder](/nb/portfolio/improved-gis-map-performance-10x-on-postgresql/),\nen forbedring av ytelsen til romlige spørringer med en faktor 10. Bak dette lå\nGiST- og SP-GiST-indekser på de romlige kolonnene, mer enn 50 millioner migrerte\nposter og en konfigurasjon justert for samtidig tilgang; CPU-belastningen i\nbackend falt med 65 %.\n\nLatens setter også et tak for gjennomstrømningen der det er kamp om én rad. Et\n[notat om lynsalg der alle kjøperne skriver til den samme raden](/nb/notes/selling-limited-stock-without-overselling/)\nsetter taket for én enkelt vare til omtrent hvor mange salg én lås bærer, delt på hvor lenge låsen\nholdes. Alt som er tregt inne i låsen, senker det taket: et kall til betaling som gjøres mens låsen\nholdes, tar det ned til rundt to salg i sekundet. Selv et sikkerhetstiltak har en pris her. En\nsynkron standby i PostgreSQL legger latens til hver commit, og det forlenger nettopp den holdetiden\nfor låsen som taket deles på.\n\nOg for å finne ut hvor tiden går,\n[registrerer den egenutviklede overvåkingen på én plattform](/nb/portfolio/built-first-party-error-monitoring-and-tracing/)\nlatensen i API-et i sin egen database og sporer forespørsler med OpenTelemetry, slik at en treg\nforespørsel kan følges på tvers av frontenden, API-et og databasen i stedet for å gjettes på.\n\n## Hvor det går galt\n\n**Gjennomsnittet skjuler halen.** Et snitt på 100 ms er forenlig med at én forespørsel av femti tar\ntre sekunder. Registrer latensen som et histogram, og les persentilene fra det. Pass så på hvordan\nde kombineres: gjennomsnittet av den 99. persentilen fra fem servere er ikke den 99. persentilen for\nhele maskinparken. Prometheus poengterer det selv i dokumentasjonen sin: kvantiler som er beregnet\nav en summary, kan ikke aggregeres, mens bøttene i et histogram kan summeres først og kvantilen\nberegnes etterpå.\n\n**Tidtakeren starter på feil sted.** En server som måler fra øyeblikket håndtereren starter, går\nglipp av tiden forespørselen tilbrakte i lastbalansereren, i køen av ventende tilkoblinger eller i\nventingen på en ledig tilkobling fra poolen. Lastgeneratorer som venter på hvert svar før de sender\nneste forespørsel, sender færre forespørsler akkurat når systemet står fast, så stoppet synes knapt\ni resultatene. Mål fra klienten også, og la serveren melde sin egen andel i en standard header:\n\n```http\nServer-Timing: db;dur=53, app;dur=47.2\n```\n\n**Samtalen er for pratsom.** En side som kjører én spørring per rad i en liste, betaler én rundtur\nper rad. Med databasen i en annen region, 30 ms unna per rundtur, koster hundre rader tre sekunder\nfør noen spørring har gjort ekte arbeid. Én spørring med en join, eller ett samlet kall, betaler\navstanden én gang.\n\n**Nye forsøk ganger opp belastningen.** En klient som gir opp etter ett sekund og prøver på nytt tre\nganger, gjør én treg server om til fire ganger så mye trafikk, og det gjør den enda tregere. Gi hver\nforespørsel en samlet frist, vent eksponentielt lenger mellom forsøkene med en tilfeldig variasjon,\nog sett et tak på antallet nye forsøk.\n\n## Les mer\n\n- [RFC 2681: A Round-trip Delay Metric for IPPM](https://www.rfc-editor.org/rfc/rfc2681) —\n  forsinkelse tur-retur definert ned til biten, med tapte svar og persentiler uttrykkelig behandlet.\n- [RFC 7679: A One-Way Delay Metric for IP Performance Metrics](https://www.rfc-editor.org/rfc/rfc7679)\n  — motstykket for forsinkelse én vei, utgitt som internettstandard.\n- [Server Timing](https://www.w3.org/TR/server-timing/) — W3C-headeren som lar en server fortelle\n  nettleseren hvor tiden ble av.\n- [Histograms and summaries](https://prometheus.io/docs/practices/histograms/) — hvorfor kvantiler\n  fra en summary ikke kan kombineres, mens bøtter i et histogram kan.\n- [RFC 8446: TLS 1.3](https://www.rfc-editor.org/rfc/rfc8446) — utformingen av håndtrykket, også\n  rundturen det fjerner.\n\n\u003chttps://engineer.company/nb/glossary/latency/\u003e\n","date_modified":"2026-11-12T05:34:23Z","description":"Hvor ventetiden i en forespørsel kommer fra, hvorfor den høye persentilen er tallet å følge, og feilene bak gjennomsnitt som skjuler halen.","formats":{"gemtext":"https://engineer.company/nb/glossary/latency/index.gmi","gopher":"https://engineer.company/nb/glossary/latency/gophermap","html":"https://engineer.company/nb/glossary/latency/","json":"https://engineer.company/nb/glossary/latency/index.json","markdown":"https://engineer.company/nb/glossary/latency/index.md","pdf":"https://engineer.company/nb/glossary/latency/index.pdf"},"kind":"page","language":"nb","title":"Hva er latens?","url":"https://engineer.company/nb/glossary/latency/","version":1}