{"canonical_url":"https://engineer.company/nb/glossary/large-language-model/","content_markdown":"# Stor språkmodell\n\n## Hva det er\n\nEn stor språkmodell er et nevralt nettverk som er trent på en svært stor mengde\ntekst til å gjøre én ting: ut fra teksten så langt å gi hvert token som kan\nkomme som det neste, en sannsynlighet. Et token er en kort tekstbit, ofte et\nhelt ord, noen ganger en del av et ord eller et enkelt tegn. Å skrive et svar er\ndet samme steget gjentatt i en løkke. Programmet velger et token ut fra\nsannsynlighetene, legger det til bakerst i teksten og spør på nytt, helt til\nmodellen gir et token som betyr stopp, eller en lengdegrense er nådd. NISTs\nprofil for generativ AI, utgitt i juli 2024, sier det på én linje: store\nspråkmodeller forutsier neste token eller ord i en setning. Forkortelsen LLM,\netter engelsk large language model, betyr det samme, og det er den formen\nprofilen selv bruker på engelsk.\n\nArkitekturen bak de siste årenes modeller heter Transformer og ble beskrevet i\nen artikkel om maskinoversettelse fra 2017. Den kvittet seg med de rekurrente og\nkonvolusjonelle lagene som tidligere modeller var bygd av, og bygde utelukkende\npå attention, en mekanisme som lar hver posisjon i teksten se direkte på alle de\nandre. Det gjorde treningen langt enklere å fordele over mange prosessorer, og\nartikkelens modell ble trent på vesentlig kortere tid enn forgjengerne.\n\n«Stor» viser til antallet parametere, vektene nettverket lærer under treningen.\nEn artikkel fra 2020 beskrev en modell med 175 milliarder av dem, ti ganger så\nmange som noen tidligere ikke-glissen språkmodell, og viste at en modell av den\nstørrelsen kunne ta fatt på en ny oppgave ut fra en håndfull gjennomarbeidede\neksempler i inndataene sine, helt uten videre trening.\n\nEn modell som bare er trent til å fortsette tekst, gjør nettopp det: den\nfortsetter teksten, og det er ikke det samme som å gjøre det den ble bedt om. En\nartikkel fra 2022 beskrev steget som gjør en slik modell til en assistent.\nMennesker skrev svarene de ønsket seg på et sett forespørsler, og modellen ble\nfinjustert på dem. Deretter rangerte mennesker modellens egne svar, og den ble\ntrent videre på rangeringene, en metode som kalles reinforcement learning from\nhuman feedback. I artikkelens evalueringer foretrakk folk svarene fra en modell\nmed 1,3 milliarder parametere, trent på denne måten, framfor svarene fra den\nopprinnelige modellen med hundre ganger så mange parametere.\n\n## Hvorfor det er viktig\n\nEn språkmodell kan ta seg av arbeid som er vanskelig å dekke med faste regler: å legge en e-post skrevet i fritekst i riktig mappe, å hente\nfeltene ut av en skannet følgeseddel, å skrive et utkast til svar på kundens\neget språk, å oppsummere en lang tråd. Arbeid som før krevde at et menneske\nleste hver eneste sak, kan nå lages som utkast av programvare og kontrolleres av\net menneske.\n\nDen samme egenskapen som gjør modellen nyttig, gjør den også vanskelig å bygge\npå. Utdataene trekkes som regel tilfeldig fra en sannsynlighetsfordeling, så\nsamme inndata kan gi ulike svar fra kjøring til kjøring, og modellen formulerer\nseg like flytende enten den har rett eller ikke. NIST kaller selvsikkert\nframført, feil utdata for konfabulering, bedre kjent som hallusinasjon, og\nbeskriver det som en naturlig følge av hvordan modellene er bygd: de lager tekst\nsom passer til statistikken i teksten de ble trent på, og den er ofte riktig og\nnoen ganger ikke. NIST påpeker også at en modell kan konfabulere begrunnelsen\neller kildehenvisningene som ser ut til å underbygge et svar. Et feil svar ser\ntil forveksling ut som et riktig, så den eneste måten å vite hvor ofte en modell\nhar rett i ditt arbeid på, er å måle den på ditt arbeid.\n\nDet finnes heller ikke én modell å binde seg til. Nye modeller kommer jevnlig,\nto av dem kan oppføre seg ganske ulikt på samme inndata, og det er leverandøren\nav modellen en applikasjon kaller, som bestemmer når den endrer seg. Et team som\nbygger på en språkmodell, bygger på en del det ikke selv styrer, og arbeidet som\nvarer, er alt rundt modellen: sakene som måler den, verktøyene den får kalle, og\nreglene for hva den får gjøre på egen hånd.\n\nNISTs profil nevner tolv risikoområder for generativ AI, blant dem\nkonfabulering, personvern, informasjonssikkerhet og immaterialrett. Den er\nskrevet for organisasjoner som styrer risiko, mer enn for utviklere, men den\nfungerer godt som sjekkliste for et team som skal avgjøre hva en funksjon bygd\npå en modell får røre.\n\n## Slik ser det ut i praksis\n\nEn funksjon bygd på en språkmodell begynner med nedskrevne saker, ikke med en\nprompt. Hver sak består av ekte inndata og svaret en person som kan arbeidet,\nville godkjent, og sakene ligger i en fil under versjonskontroll ved siden av\nkoden:\n\n```yaml\n# cases/delivery-notes.yaml\n- id: note-0142\n  input: scans/note-0142.txt\n  expect:\n    supplier: \"Example Freight\"\n    reference: \"DN-58213\"\n    pallets: 6\n- id: note-0157\n  input: scans/note-0157.txt\n  expect:\n    supplier: \"Sample Haulage\"\n    reference: \"DN-59002\"\n    pallets: 14\n```\n\nHvilken modell som tar hvilken type oppgave, er en innstilling, så en liten og\nrask modell kan stå for uttrekket mens en større skriver utkast til svarene som\nkrever en vurdering:\n\n```yaml\n# routing.yaml\njobs:\n  extract-delivery-note:\n    model: small-fast\n    cases: cases/delivery-notes.yaml\n  draft-claim-reply:\n    model: large\n    cases: cases/claim-replies.yaml\n```\n\nHver endring kjøres mot alle sakene før den tas i bruk, enten endringen er en ny\nprompt, et nytt verktøy eller en ny modell, og resultatet er en poengsum for\nhver sak, tatt vare på over tid, slik at en rettelse for én sak ikke i det\nstille kan ødelegge en annen. Når en ny modell kommer, trengs det bare en\nendring på én linje i `routing.yaml` og en kjøring mot sakene for å prøve den\nut, og beslutningen om å bytte hviler på poengsummene og ikke på kunngjøringen.\n\nSlik beskriver dette nettstedet sine\n[skreddersydde AI-agenter for din bransje](/nb/ai-agents/). Valget av modell er\nkonfigurasjon, ikke kode, med en liten og rask modell til sortering og uttrekk\nog en stor til vurderinger. Et oppdrag begynner med at tretti til femti reelle\neksempler med riktige svar blir skrevet ned sammen med dem som gjør arbeidet, og\nhver endring, enten den gjelder en prompt, et verktøy eller en modell, kjøres\nmot alle sakene før den tas i bruk. Når en ny modell kommer, er det resultatet\nmot sakene og ikke kunngjøringen som avgjør om man bytter. Ifølge siden kan\nmodellen byttes ut, og kunden eier koden, sakene og dataene, så agenten fortsatt\ner kundens når modellen under den byttes ut.\n\n## Hvor det går galt\n\n**Selvsikre svar som er feil.** En modell som blir spurt om en kontraktsklausul\nden ikke har foran seg, kan finne på å beskrive en likevel, i den samme sikre\ntonen som ved et riktig svar, og kan vise til en kilde som ikke finnes. Gi\nmodellen dokumentene den skal svare ut fra, be den vise til dem, og kontroller i\nkode at hver henvisning peker på et dokument og et avsnitt som finnes. Mål\nfeilraten på nedskrevne saker, og la et menneske se gjennom svar som får\nkonsekvenser, før noe handler på dem.\n\n**Instruksjoner gjemt i dataene.** En applikasjon som lar en modell lese\ne-poster, nettsider eller opplastede filer, lar forfatterne av den teksten\nsnakke til modellen. En artikkel fra 2023 viste dette mot ekte applikasjoner:\ninstruksjoner plantet i innhold som modellen sannsynligvis ville lese, fikk den\ntil å lekke data og endre hva applikasjonen gjorde, og NISTs profil nevner\nindirekte prompt injection blant sikkerhetsrisikoene ved generativ AI. Behandle\nalt modellen leser, som inndata du ikke kan stole på, håndhev tillatelser i\nverktøyene i stedet for i prompten, gi verktøyene bare de rettighetene som\npersonen modellen handler for, selv har, og krev at et menneske godkjenner\nenhver handling som ikke kan gjøres om.\n\n**En modell som endrer seg under deg.** En ny versjon eller en annen leverandør\nkan svare annerledes på samme inndata, og et svar som besto forrige måned,\nfeiler i dag, uten at din egen kode er endret. Angi en eksakt modellversjon der\nleverandøren tilbyr det, og kjør hele saksfilen ved hver endring, også et\nmodellbytte, før den når brukerne.\n\n**Utdata som koden ikke kan lese.** En modell som blir bedt om JSON, returnerer\nJSON fulgt av en vennlig setning, utelater et felt eller skriver et tall som en\ntekststreng. Beskriv den forventede formen i JSON Schema, kontroller hvert svar\nmot den, og behandle et svar som ikke består, som en feil som skal prøves på\nnytt eller sendes videre til et menneske, aldri som data.\n\n**Personopplysninger i prompter og logger.** Alt som sendes til en modell hos en\nleverandør, forlater dine egne systemer, og en logg over prompter og svar tar\nvare på personopplysninger lenge etter at kallet er ferdig. NIST legger til at\nmodeller kan gjenta sensitivt materiale fra treningsdataene sine, et problem som\nhar blitt omtalt som memorering av data. Send bare feltene en oppgave trenger,\nhold promptloggene under de samme reglene for oppbevaring og tilgang som dataene\ni dem, og les leverandørens vilkår om oppbevaring og trening før\npersonopplysninger når fram til den.\n\n## Les mer\n\n- [NIST AI 600-1: Generative Artificial Intelligence Profile](https://doi.org/10.6028/NIST.AI.600-1)\n  — NISTs tillegg fra juli 2024 til sitt AI Risk Management Framework: tolv\n  risikoer ved generativ AI, konfabulering blant dem, og foreslåtte tiltak for\n  hver av dem.\n- [Attention Is All You Need](https://arxiv.org/abs/1706.03762) — artikkelen fra\n  2017 som introduserte Transformer, som dagens språkmodeller bygger på.\n- [Language Models are Few-Shot Learners](https://arxiv.org/abs/2005.14165) —\n  artikkelen fra 2020 om en modell med 175 milliarder parametere som tar fatt på\n  nye oppgaver ut fra eksempler i inndataene.\n- [Training language models to follow instructions with human feedback](https://arxiv.org/abs/2203.02155)\n  — finjustering på nedskrevne svar og rangerte utdata, steget fra\n  tekstforutsier til assistent.\n- [Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection](https://arxiv.org/abs/2302.12173)\n  — instruksjoner plantet i data som en modell leser, demonstrert mot ekte\n  applikasjoner.\n\n\u003chttps://engineer.company/nb/glossary/large-language-model/\u003e\n","date_modified":"2026-11-12T05:34:23Z","description":"Hva en stor språkmodell egentlig regner ut, hvorfor svarene må testes og ikke bare tros, og fem måter en funksjon bygd på den går galt på.","formats":{"gemtext":"https://engineer.company/nb/glossary/large-language-model/index.gmi","gopher":"https://engineer.company/nb/glossary/large-language-model/gophermap","html":"https://engineer.company/nb/glossary/large-language-model/","json":"https://engineer.company/nb/glossary/large-language-model/index.json","markdown":"https://engineer.company/nb/glossary/large-language-model/index.md","pdf":"https://engineer.company/nb/glossary/large-language-model/index.pdf"},"kind":"page","language":"nb","title":"Hva er en stor språkmodell?","url":"https://engineer.company/nb/glossary/large-language-model/","version":1}