{"canonical_url":"https://engineer.company/da/glossary/large-language-model/","content_markdown":"# Stor sprogmodel\n\n## Hvad det er\n\nEn stor sprogmodel er et neuralt netværk, der er trænet på en meget stor mængde\ntekst til at gøre én ting: ud fra teksten indtil nu at give hvert token, der\nkunne komme som det næste, en sandsynlighed. Et token er et kort stykke tekst,\nofte et helt ord, nogle gange en del af et ord eller et enkelt tegn. At skrive\net svar er det ene trin gentaget i en løkke. Programmet vælger et token ud fra\nsandsynlighederne, sætter det bag på teksten og spørger igen, indtil modellen\ngiver et token, der betyder stop, eller en længdegrænse er nået. NIST's profil\nfor generativ AI, udgivet i juli 2024, siger det på én linje: store\nsprogmodeller forudsiger det næste token eller ord i en sætning. Forkortelsen\nLLM, efter det engelske large language model, betyder det samme, og det er den\nform, profilen selv bruger på engelsk.\n\nArkitekturen bag de senere års modeller hedder Transformer og blev beskrevet i\nen artikel om maskinoversættelse fra 2017. Den droppede de rekurrente og\nkonvolutionelle lag, som tidligere modeller var bygget af, og byggede\nudelukkende på attention, en mekanisme, der lader hver position i teksten se\ndirekte på alle de andre. Det gjorde træningen langt lettere at fordele over\nmange processorer, og artiklens model blev trænet på væsentlig kortere tid end\nsine forgængere.\n\n»Stor« henviser til antallet af parametre, de vægte, netværket lærer under\ntræningen. En artikel fra 2020 beskrev en model med 175 milliarder af dem, ti\ngange flere end nogen tidligere ikke-sparse sprogmodel, og viste, at en model af\nden størrelse kunne tage fat på en ny opgave ud fra en håndfuld gennemarbejdede\neksempler i sit input, helt uden yderligere træning.\n\nEn model, der kun er trænet til at fortsætte tekst, gør netop det: den\nfortsætter teksten, og det er ikke det samme som at gøre det, den blev bedt om.\nEn artikel fra 2022 beskrev det trin, der gør sådan en model til en assistent.\nMennesker skrev de svar, de ønskede, på et sæt anmodninger, og modellen blev\nfinjusteret på dem. Derefter rangerede mennesker modellens egne svar, og den\nblev trænet videre på de rangeringer, en metode, der kaldes reinforcement\nlearning from human feedback. I artiklens evalueringer foretrak folk svarene fra\nen model med 1,3 milliarder parametre, trænet på den måde, frem for svarene fra\nden oprindelige model med hundrede gange så mange parametre.\n\n## Hvorfor det betyder noget\n\nEn sprogmodel kan tage sig af arbejde, som er svært at dække med faste regler: at lægge en e-mail skrevet i fritekst i den rigtige mappe, at\ntrække felterne ud af en scannet følgeseddel, at skrive et udkast til et svar på\nkundens eget sprog, at opsummere en lang tråd. Arbejde, der før krævede, at et\nmenneske læste hver eneste sag, kan nu laves som udkast af software og tjekkes\naf et menneske.\n\nDen egenskab, der gør den nyttig, er også det, der gør den svær at bygge på.\nDens output bliver som regel trukket som en stikprøve, så det samme input kan\ngive forskellige svar fra kørsel til kørsel, og den formulerer sig lige\nflydende, uanset om den har ret. NIST kalder selvsikkert fremført, forkert\noutput for konfabulation, bedre kendt som hallucination, og beskriver det som en\nnaturlig følge af, hvordan modellerne er bygget: de producerer tekst, der passer\ntil statistikken i den tekst, de blev trænet på, og den er ofte rigtig og nogle\ngange ikke. NIST bemærker også, at en model kan konfabulere den begrundelse\neller de kildehenvisninger, der ser ud til at underbygge et svar. Et forkert\nsvar ligner et rigtigt til forveksling, så den eneste måde at vide, hvor ofte en\nmodel har ret i dit arbejde, er at måle den på dit arbejde.\n\nDer er heller ikke én model at binde sig til. Nye modeller udkommer jævnligt, to\naf dem kan opføre sig ret forskelligt på det samme input, og det er udbyderen af\nden model, en applikation kalder, der bestemmer, hvornår den ændrer sig. Et\nteam, der bygger på en sprogmodel, bygger på en del, det ikke selv styrer, og\ndet arbejde, der holder, er alt det omkring modellen: de sager, der måler den,\nde værktøjer, den må kalde, og reglerne for, hvad den må gøre på egen hånd.\n\nNIST's profil nævner tolv risikoområder for generativ AI, blandt dem\nkonfabulation, databeskyttelse, informationssikkerhed og intellektuel\nejendomsret. Den er skrevet til organisationer, der styrer risiko, snarere end\ntil udviklere, men den fungerer fint som tjekliste for et team, der skal afgøre,\nhvad en funktion bygget på en model må røre ved.\n\n## Sådan ser det ud i praksis\n\nEn funktion bygget på en sprogmodel begynder med nedskrevne sager, ikke med en\nprompt. Hver sag er et rigtigt input og det svar, som en person, der kender\narbejdet, ville godkende, gemt i en fil under versionsstyring ved siden af\nkoden:\n\n```yaml\n# cases/delivery-notes.yaml\n- id: note-0142\n  input: scans/note-0142.txt\n  expect:\n    supplier: \"Example Freight\"\n    reference: \"DN-58213\"\n    pallets: 6\n- id: note-0157\n  input: scans/note-0157.txt\n  expect:\n    supplier: \"Sample Haulage\"\n    reference: \"DN-59002\"\n    pallets: 14\n```\n\nHvilken model der tager hvilken slags opgave, er en indstilling, så en lille,\nhurtig model kan stå for udtrækket, mens en større skriver udkast til de svar,\nder kræver en vurdering:\n\n```yaml\n# routing.yaml\njobs:\n  extract-delivery-note:\n    model: small-fast\n    cases: cases/delivery-notes.yaml\n  draft-claim-reply:\n    model: large\n    cases: cases/claim-replies.yaml\n```\n\nHver ændring kører mod alle sagerne, før den går i drift, hvad enten ændringen\ner en ny prompt, et nyt værktøj eller en ny model, og resultatet er en score for\nhver sag, gemt over tid, så en rettelse for én sag ikke i det stille kan\nødelægge en anden. Når en ny model udkommer, kræver det kun en ændring på én\nlinje i `routing.yaml` og en kørsel mod sagerne at afprøve den, og beslutningen\nom at skifte hviler på scorerne og ikke på pressemeddelelsen.\n\nDet er sådan, dette site beskriver sine\n[skræddersyede AI-agenter](/da/ai-agents/). Valget af model er konfiguration,\nikke kode, med en lille, hurtig model til sortering og udtræk og en stor til\nvurderinger. Et samarbejde begynder med, at tredive til halvtreds rigtige\neksempler bliver skrevet ned med de korrekte svar, og hver ændring, hvad enten\nden gælder en prompt, et værktøj eller modellen, afprøves på dem alle, før den\ngår i drift. Ifølge siden kan modellen skiftes ud, og kunden ejer koden, sagerne\nog dataene, så agenten fortsat er kundens, også når modellen bag den bliver\nudskiftet.\n\n## Hvor det går galt\n\n**Selvsikre svar, der er forkerte.** En model, der bliver spurgt om en\nkontraktklausul, den ikke har foran sig, kan finde på at beskrive en alligevel,\ni samme sikre tone som ved et korrekt svar, og kan henvise til en kilde, der\nikke findes. Giv modellen de dokumenter, den skal svare ud fra, bed den henvise\ntil dem, og tjek i kode, at hver henvisning peger på et dokument og et afsnit,\nder findes. Mål fejlraten på nedskrevne sager, og lad et menneske se svar med\nkonsekvenser, før noget handler på dem.\n\n**Instruktioner gemt i dataene.** En applikation, der lader en model læse\ne-mails, websider eller uploadede filer, lader forfatterne af den tekst tale til\nmodellen. En artikel fra 2023 viste det mod rigtige applikationer:\ninstruktioner, der var plantet i indhold, modellen sandsynligvis ville læse, fik\nden til at lække data og ændre, hvad applikationen gjorde, og NIST's profil\nnævner indirekte prompt injection blandt sikkerhedsrisiciene ved generativ AI.\nBehandl alt, hvad modellen læser, som input, der ikke er til at stole på,\nhåndhæv rettigheder i værktøjerne i stedet for i prompten, giv værktøjerne kun\nde rettigheder, som personen, modellen handler for, selv har, og kræv et\nmenneskes godkendelse af enhver handling, der ikke kan gøres om.\n\n**En model, der ændrer sig under dig.** En ny version eller en anden udbyder kan\nsvare anderledes på det samme input, og et svar, der bestod i sidste måned,\nfejler i dag, uden at din egen kode er ændret. Angiv en præcis modelversion,\nhvor udbyderen tilbyder det, og kør hele sagsfilen ved hver ændring, et\nmodelskift medregnet, før den når brugerne.\n\n**Output, som koden ikke kan læse.** En model, der bliver bedt om JSON,\nreturnerer JSON efterfulgt af en venlig sætning, udelader et felt eller skriver\net tal som en tekststreng. Beskriv den forventede form i JSON Schema, tjek hvert\nsvar mod den, og behandl et svar, der ikke består, som en fejl, der skal\nforsøges igen eller gives videre til et menneske, aldrig som data.\n\n**Persondata i prompter og logge.** Alt, hvad der sendes til en model hos en\nudbyder, forlader dine egne systemer, og en log over prompter og svar gemmer\npersondata længe efter, at kaldet er afsluttet. NIST tilføjer, at modeller kan\ngentage følsomt materiale fra deres træningsdata, et problem, der er blevet\nkaldt memorering af data. Send kun de felter, en opgave har brug for, hold\npromptloggene under de samme regler for opbevaring og adgang som dataene i dem,\nog læs udbyderens vilkår om opbevaring og træning, før der når persondata frem\ntil den.\n\n## Læs mere\n\n- [NIST AI 600-1: Generative Artificial Intelligence Profile](https://doi.org/10.6028/NIST.AI.600-1)\n  — NIST's tillæg fra juli 2024 til sit AI Risk Management Framework: tolv\n  risici ved generativ AI, konfabulation blandt dem, og forslag til handlinger\n  for hver af dem.\n- [Attention Is All You Need](https://arxiv.org/abs/1706.03762) — artiklen fra\n  2017, der introducerede Transformer, arkitekturen bag nutidens sprogmodeller.\n- [Language Models are Few-Shot Learners](https://arxiv.org/abs/2005.14165) —\n  artiklen fra 2020 om en model med 175 milliarder parametre, der tager fat på\n  nye opgaver ud fra eksempler i sit input.\n- [Training language models to follow instructions with human feedback](https://arxiv.org/abs/2203.02155)\n  — finjustering på nedskrevne svar og rangerede output, skridtet fra\n  tekstforudsiger til assistent.\n- [Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection](https://arxiv.org/abs/2302.12173)\n  — instruktioner plantet i data, som en model læser, demonstreret mod rigtige\n  applikationer.\n\n\u003chttps://engineer.company/da/glossary/large-language-model/\u003e\n","date_modified":"2026-11-12T05:34:23Z","description":"Hvad en stor sprogmodel egentlig regner ud, hvorfor dens svar skal testes og ikke bare troes, og fem måder, en funktion bygget på den går galt på.","formats":{"gemtext":"https://engineer.company/da/glossary/large-language-model/index.gmi","gopher":"https://engineer.company/da/glossary/large-language-model/gophermap","html":"https://engineer.company/da/glossary/large-language-model/","json":"https://engineer.company/da/glossary/large-language-model/index.json","markdown":"https://engineer.company/da/glossary/large-language-model/index.md","pdf":"https://engineer.company/da/glossary/large-language-model/index.pdf"},"kind":"page","language":"da","title":"Hvad er en stor sprogmodel?","url":"https://engineer.company/da/glossary/large-language-model/","version":1}