{"canonical_url":"https://engineer.company/da/glossary/retrieval-augmented-generation/","content_markdown":"# Retrieval-augmented generation\n\n## Hvad det er\n\nRetrieval-augmented generation er en måde at besvare et spørgsmål med en\nsprogmodel på i to trin. Først søger applikationen i en samling dokumenter efter\nde passager, der mest sandsynligt rummer svaret. Derefter lægger den passagerne\nind i modellens input ved siden af spørgsmålet, og modellen skriver sit svar ud\nfra dem i stedet for ud fra det, den opsugede under træningen. Navnet, som som\nregel forkortes til RAG, stammer fra en forskningsartikel fra 2020 om\nvidensintensive sprogopgaver som at besvare åbne spørgsmål.\n\nArtiklen beskrev to slags hukommelse. En forudtrænet model gemmer det, den har\nlært, i sine parametre, og det kaldte forfatterne parametrisk hukommelse. Et\nseparat indeks over dokumenter, som en trænet søgemodel, en såkaldt retriever,\nsøger i, er ikke-parametrisk hukommelse. Deres system koblede en forudtrænet\nsequence-to-sequence-model til et tæt vektorindeks over Wikipedia, og de\nsammenlignede to måder at bruge det fundne på: den ene lader hele svaret bygge\npå de samme fundne passager, den anden kan trække på forskellige passager for\nhvert token, den skriver. På tre benchmarks for besvarelse af spørgsmål i åbne\ndomæner satte systemet nye rekorder, og forfatterne fandt, at dets genererede\ntekst var mere specifik, mere varieret og mere faktuelt korrekt end teksten fra\nen sammenlignelig model uden søgning.\n\nEn applikation kan bygge det samme mønster af dele, den allerede har: et\nsøgeindeks over sine egne dokumenter og en stor sprogmodel, den kalder over et\nAPI. Søgedelen er almindelig søgning, og begge dens familier dukker op her.\nSparse retrieval matcher ord, sådan som fuldtekstsøgning rangerer dokumenter med\nen scoringsfunktion som BM25. Dense retrieval gør spørgsmålet og hver passage\ntil vektorer af tal og returnerer de passager, hvis vektorer ligger tættest på,\nog det er vektorsøgning. En artikel fra 2020 om dense passage retrieval fandt,\nat en tæt retriever, der var trænet på et beskedent antal par af spørgsmål og\npassager, slog en stærk BM25-baseline med 9 til 19 procentpoint, målt på hvor\nofte den rigtige passage var blandt de første tyve resultater. Et system kan\nkøre begge dele og flette de to lister.\n\n## Hvorfor det betyder noget\n\nEn sprogmodel kender kun det, der stod i dens træningstekst, og den tekst\nslutter på en fast dato og har aldrig rummet jeres kontrakter, jeres prislister\neller referatet fra sidste uge. RAG-artiklen nævner to begrænsninger ved viden,\nder ligger i parametre: det er svært at vise, hvor et svar kom fra, og svært at\nopdatere den. Søgningen tager hånd om begge dele. Svaret kan henvise til de\npassager, modellen fik, så en læser kan åbne kilden og tjekke den, og ny viden\nnår frem til modellen i samme øjeblik, et dokument kommer i indekset, helt uden\nen træningskørsel.\n\nDet placerer også spørgsmålet om, hvem der må se hvad, der, hvor det hører\nhjemme. En søgning kan køre med rettighederne hos den, der spørger, så modellen\nkun får vist passager, som den person selv kunne have åbnet. I en model, der var\ntrænet på de samme dokumenter, findes den grænse ikke: alt, hvad den har lært,\ner tilgængeligt for alle, der bruger den.\n\nPrisen er, at svaret aldrig bliver bedre end det, søgningen returnerer. En\nmodel, der får de forkerte passager, skriver et flydende svar ud fra dem, og en\nmodel, der intet brugbart får, svarer måske ud fra hukommelsen alligevel. Det\nmeste af arbejdet i et system bygget på retrieval-augmented generation ligger\nderfor i dataene og søgningen, ikke i modellen.\n\n## Sådan ser det ud i praksis\n\nSporet nedenfor følger ét spørgsmål gennem sådan et system. Søgningen kører med\nden spørgende brugers rettigheder, hver passage kommer med den fil og den side,\nden stammer fra, og instruktionerne beder modellen svare ud fra passagerne og\nintet andet:\n\n```text\nspørgsmål: Hvilke leveringsbetingelser gælder for ordre 4471?\nbruger:    salg-3 (rolle: salg, region: nord)\n\nfundet, filtreret til det, salg-3 må læse:\n  [1] kontrakter/rammeaftale-2025.pdf, side 4\n      \"Varer leveres til køberens lager,\n       medmindre ordren angiver andet.\"\n  [2] ordrer/4471.txt, linje 12\n      \"Leveringsbetingelser: jf. rammeaftalen.\"\n\ninstruktioner:\n  Svar kun ud fra passagerne nedenfor, og henvis til dem som [n].\n  Hvis de ikke besvarer spørgsmålet, så sig det.\n\nsvar:\n  Ordre 4471 henviser til rammeaftalen [2], hvorefter\n  varer leveres til køberens lager [1].\n```\n\nHver del af sporet er data, systemet kan tjekke. En test kan bekræfte, at de\nrigtige passager kom tilbage for et kendt spørgsmål, et script kan bekræfte, at\nhvert `[n]` i svaret henviser til en passage, der faktisk blev fundet, og en\nperson, der læser svaret, kan slå op på side 4 i kontrakten.\n\nDet forarbejde, det kræver, er emnet for siden om\n[virksomhedsdata klar til AI-agenter](/da/ai-data/) her på sitet. Den beskriver,\nhvordan gamle PDF'er, scannede dokumenter og mailarkiver bliver til søgbar tekst\nmed kilden gemt ved siden af, og hvordan hver række gemmer, hvor den kom fra og\nhvornår, nemlig systemet, indlæsningen, filen og sidetallet, så en agent kan\nhenvise til posten bag et tal, og et menneske kan åbne den. Siden lægger også\nreglerne i dataene og ikke i prompten: agenten arbejder med brugerens\nprivilegier, aldrig en administrators, og hver læsning logges med den person,\nden er foretaget på vegne af.\n\n## Hvor det går galt\n\n**Søgningen rammer ved siden af, og modellen svarer alligevel.** Når den rigtige\npassage ikke bliver fundet, får modellen stadig noget og skriver stadig et svar.\nMål søgningen for sig: skriv rigtige spørgsmål ned sammen med de passager, der\nbesvarer dem, og tjek, hvor ofte de passager er blandt de resultater, modellen\nfår. Bed modellen sige det, når passagerne ikke besvarer spørgsmålet, og tag\nspørgsmål af den slags med blandt testsagerne.\n\n**Passager, der skærer svaret over.** Når dokumenter deles i stykker af fast\nlængde, bliver en tabel skilt fra sin overskrift og en klausul fra sin\nundtagelse, og den ene halvdel vildleder, når den bliver fundet alene. Del langs\nden struktur, dokumentet allerede har, dets afsnit, sider og tabelrækker, og\nhold dokumentets titel og placering sammen med hvert stykke.\n\n**Indekset er ligeglad med, hvem der spørger.** Et indeks, der er bygget af en\ntjeneste, som kan læse alt, returnerer passager fra dokumenter, som den\nspørgende ikke må åbne, og modellen opsummerer dem for vedkommende. Filtrer på\nbrugerens rettigheder inde i søgningen, i indekset eller databasen, før noget\nnår modellen. En regel i prompten er ikke adgangskontrol.\n\n**Instruktioner plantet i et dokument.** Fundet tekst er tekst, som en anden har\nskrevet, og modellen kan ikke pålideligt skelne en passage fra en instruktion.\nNIST's profil for generativ AI beskriver indirekte prompt injection som angreb\npå applikationer bygget på sprogmodeller gennem data, der sandsynligvis bliver\nhentet frem, og en artikel fra 2023 demonstrerede den slags angreb mod rigtige\nsystemer. Behandl hver fundet passage som input, der ikke er til at stole på,\nlad ingen passage udløse en handling uden et tjek i kode, og giv de værktøjer,\nmodellen kan kalde, ikke flere rettigheder, end brugeren selv har.\n\n**Et indeks, der halter bagefter.** Et dokument bliver ændret eller slettet, og\nindekset rummer stadig de gamle passager, så systemet svarer selvsikkert ud fra\nen kontrakt, der ikke længere gælder. Opdater indekset, hver gang en kilde\nændrer sig, fjern passager, når deres dokument bliver slettet, og vis datoen for\nhver kilde ved siden af svaret.\n\n**Kildehenvisninger, der ikke siger det, svaret påstår.** En model kan henvise\ntil passage [2] for en sætning, som passage [2] ikke underbygger, og NIST\nbemærker, at genererede kildehenvisninger selv kan være konfabulerede. Tjek i\nkode, at hver henvisning peger på en passage, der blev fundet, og lad mennesker\ntage stikprøver af svar mod deres kilder som en fast del af testarbejdet.\n\n## Læs mere\n\n- [Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks](https://arxiv.org/abs/2005.11401)\n  — artiklen fra 2020, der introducerede RAG-modellerne og sammenlignede de to\n  varianter på besvarelse af spørgsmål og generering af tekst.\n- [Dense Passage Retrieval for Open-Domain Question Answering](https://arxiv.org/abs/2004.04906)\n  — en tæt retriever, trænet på par af spørgsmål og passager og målt mod BM25 på\n  at finde den passage, der rummer svaret.\n- [NIST AI 600-1: Generative Artificial Intelligence Profile](https://doi.org/10.6028/NIST.AI.600-1)\n  — NIST's risikoprofil for generativ AI, med konfabulation, databeskyttelse og\n  indirekte prompt injection.\n- [Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection](https://arxiv.org/abs/2302.12173)\n  — hvordan instruktioner gemt i fundne data overtager en applikation, med\n  angreb på rigtige systemer.\n\n\u003chttps://engineer.company/da/glossary/retrieval-augmented-generation/\u003e\n","date_modified":"2026-10-29T11:17:41Z","description":"Sådan svarer en sprogmodel ud fra jeres egne dokumenter frem for hukommelsen, hvad der afgør, om svaret holder, og seks måder, det går galt på.","formats":{"gemtext":"https://engineer.company/da/glossary/retrieval-augmented-generation/index.gmi","gopher":"https://engineer.company/da/glossary/retrieval-augmented-generation/gophermap","html":"https://engineer.company/da/glossary/retrieval-augmented-generation/","json":"https://engineer.company/da/glossary/retrieval-augmented-generation/index.json","markdown":"https://engineer.company/da/glossary/retrieval-augmented-generation/index.md","pdf":"https://engineer.company/da/glossary/retrieval-augmented-generation/index.pdf"},"kind":"page","language":"da","title":"Hvad er retrieval-augmented generation?","url":"https://engineer.company/da/glossary/retrieval-augmented-generation/","version":1}