{"canonical_url":"https://engineer.company/sv/glossary/large-language-model/","content_markdown":"# Stor språkmodell\n\n## Vad det är\n\nEn stor språkmodell är ett neuralt nätverk som har tränats på en mycket stor\nmängd text för att göra en enda sak: att utifrån texten hittills ge varje token\nsom kan komma härnäst en sannolikhet. En token är en kort textbit, ofta ett helt\nord, ibland en del av ett ord eller ett enskilt tecken. Att skriva ett svar är\nsamma steg upprepat i en slinga. Programmet väljer en token utifrån\nsannolikheterna, lägger den sist i texten och frågar igen, tills modellen ger en\ntoken som betyder stopp eller en längdgräns nås. NIST:s profil för generativ AI,\nutgiven i juli 2024, säger det på en rad: stora språkmodeller förutsäger nästa\ntoken eller ord i en mening. Förkortningen LLM, efter engelskans large language\nmodel, betyder samma sak, och det är den form som profilen själv använder på\nengelska.\n\nDen uppbyggnad som de senaste årens modeller vilar på heter Transformer och\nbeskrevs i en artikel om maskinöversättning från 2017. Den gjorde sig av med de\nrekurrenta och konvolutionella lager som tidigare modeller var byggda av och\nbyggde enbart på attention, en mekanism som låter varje position i texten titta\ndirekt på alla de andra. Det gjorde träningen mycket lättare att fördela över\nmånga processorer, och artikelns modell tränades på betydligt kortare tid än\nföregångarna.\n\n”Stor” syftar på antalet parametrar, de vikter som nätverket lär sig under\nträningen. En artikel från 2020 beskrev en modell med 175 miljarder av dem, tio\ngånger fler än någon tidigare icke-gles språkmodell, och visade att en modell av\nden storleken kunde ta sig an en ny uppgift utifrån en handfull genomarbetade\nexempel i sina indata, helt utan vidare träning.\n\nEn modell som bara har tränats på att fortsätta text gör just det: den\nfortsätter texten, och det är inte samma sak som att göra det den blev ombedd\natt göra. En artikel från 2022 beskrev steget som gör en sådan modell till en\nassistent. Människor skrev de svar de ville ha på en uppsättning förfrågningar,\noch modellen finjusterades på dem. Sedan rangordnade människor modellens egna\nsvar, och den tränades vidare på rangordningarna, en metod som kallas\nreinforcement learning from human feedback. I artikelns utvärderingar föredrog\nmänniskor svaren från en modell med 1,3 miljarder parametrar, tränad på det\nsättet, framför svaren från den ursprungliga modellen med hundra gånger så många\nparametrar.\n\n## Varför det spelar roll\n\nEn språkmodell kan ta sig an arbete som är svårt att täcka med fasta regler: att sortera ett mejl skrivet i fritext till rätt mapp, att hämta fälten\nur en inskannad följesedel, att skriva ett utkast till svar på kundens eget\nspråk, att sammanfatta en lång tråd. Arbete som tidigare krävde att en människa\nläste varje enskilt ärende kan nu förberedas som utkast av ett program och\nkontrolleras av en människa.\n\nSamma egenskap som gör modellen användbar gör den också svår att bygga på.\nUtdata dras som regel slumpmässigt ur en sannolikhetsfördelning, så samma indata\nkan ge olika svar från körning till körning, och modellen formulerar sig lika\nflytande oavsett om den har rätt eller inte. NIST kallar säkert framförda,\nfelaktiga utdata för konfabulering, mer känt som hallucination, och beskriver\ndet som en naturlig följd av hur modellerna är byggda: de genererar text som\npassar statistiken i texten de tränades på, och den är ofta rätt och ibland\ninte. NIST påpekar också att en modell kan konfabulera den motivering eller de\nkällhänvisningar som ser ut att stödja ett svar. Ett felaktigt svar ser\nförvillande likt ut som ett riktigt, så det enda sättet att veta hur ofta en modell\nhar rätt i ditt arbete är att mäta den på ditt arbete.\n\nDet finns inte heller en enda modell att binda sig till. Nya modeller kommer\nregelbundet, två av dem kan bete sig ganska olika på samma indata, och det är\nleverantören av den modell som ett program anropar som bestämmer när den ändras.\nEtt team som bygger på en språkmodell bygger på en del som det inte själv styr,\noch det arbete som består är allt runt modellen: fallen som mäter den, verktygen\nden får anropa och reglerna för vad den får göra på egen hand.\n\nNIST:s profil nämner tolv riskområden för generativ AI, bland dem konfabulering,\nskydd av personuppgifter, informationssäkerhet och immateriella rättigheter. Den\när skriven för organisationer som hanterar risker, mer än för utvecklare, men\nden fungerar väl som checklista för ett team som ska avgöra vad en funktion\nbyggd på en modell får röra.\n\n## Så ser det ut i praktiken\n\nEn funktion byggd på en språkmodell börjar med nedskrivna fall, inte med en\nprompt. Varje fall består av riktiga indata och det svar som en person som kan\narbetet skulle godkänna, och fallen ligger i en fil under versionshantering\nbredvid koden:\n\n```yaml\n# cases/delivery-notes.yaml\n- id: note-0142\n  input: scans/note-0142.txt\n  expect:\n    supplier: \"Example Freight\"\n    reference: \"DN-58213\"\n    pallets: 6\n- id: note-0157\n  input: scans/note-0157.txt\n  expect:\n    supplier: \"Sample Haulage\"\n    reference: \"DN-59002\"\n    pallets: 14\n```\n\nVilken modell som tar vilken typ av uppgift är en inställning, så en liten och\nsnabb modell kan stå för extraktionen medan en större skriver utkast till de\nsvar som kräver omdöme:\n\n```yaml\n# routing.yaml\njobs:\n  extract-delivery-note:\n    model: small-fast\n    cases: cases/delivery-notes.yaml\n  draft-claim-reply:\n    model: large\n    cases: cases/claim-replies.yaml\n```\n\nVarje ändring körs mot alla fall innan den släpps, oavsett om ändringen är en ny\nprompt, ett nytt verktyg eller en ny modell, och resultatet är en poäng per\nfall, sparad över tid, så att en rättelse för ett fall inte i det tysta kan\nförstöra ett annat. När en ny modell kommer behövs bara en ändring på en rad i\n`routing.yaml` och en körning mot fallen för att prova den, och beslutet att\nbyta vilar på poängen och inte på lanseringen.\n\nSå beskriver den här webbplatsen sina\n[skräddarsydda AI-agenter för din bransch](/sv/ai-agents/). Valet av modell är\nkonfiguration, inte kod, med en liten, snabb modell för att sortera och\nextrahera och en stor för omdöme. Ett uppdrag börjar med trettio till femtio\nriktiga exempel med rätt svar, nedskrivna tillsammans med dem som gör arbetet,\noch varje ändring, vare sig det gäller en prompt, ett verktyg eller en modell,\nkörs mot alla fallen innan den släpps. När en ny modell släpps är det resultatet\nmot fallen och inte lanseringen som avgör om man byter. Enligt sidan hålls\nmodellen utbytbar, och kunden äger koden, fallen och datan, så att agenten\nförblir kundens när modellen under den byts ut.\n\n## Var det går fel\n\n**Självsäkra svar som är fel.** En modell som får en fråga om en avtalsklausul\nden inte har framför sig kan hitta på en ändå, i samma säkra ton som vid ett\nriktigt svar, och kan hänvisa till en källa som inte finns. Ge modellen de\ndokument den ska svara utifrån, be den hänvisa till dem och kontrollera i kod\natt varje hänvisning pekar på ett dokument och ett stycke som finns. Mät\nfelfrekvensen på nedskrivna fall, och låt en människa granska svar som får\nkonsekvenser innan något agerar på dem.\n\n**Instruktioner gömda i data.** Ett program som låter en modell läsa mejl,\nwebbsidor eller uppladdade filer låter författarna till den texten tala till\nmodellen. En artikel från 2023 visade detta mot verkliga applikationer:\ninstruktioner som planterats i innehåll som modellen sannolikt skulle läsa fick\nden att läcka data och ändra vad applikationen gjorde, och NIST:s profil nämner\nindirekt prompt injection bland säkerhetsriskerna med generativ AI. Behandla\nallt modellen läser som indata du inte kan lita på, upprätthåll behörigheter i\nverktygen i stället för i prompten, ge verktygen bara de behörigheter som\npersonen modellen agerar för själv har, och kräv att en människa godkänner varje\nhandling som inte kan göras ogjord.\n\n**En modell som ändras under dig.** En ny version eller en annan leverantör kan\nsvara annorlunda på samma indata, och ett svar som klarade sig förra månaden\nmisslyckas i dag, utan att din egen kod har ändrats. Ange en exakt modellversion\ndär leverantören erbjuder det, och kör hela fallfilen vid varje ändring, även\nett modellbyte, innan den når användarna.\n\n**Utdata som koden inte kan läsa.** En modell som ombeds svara med JSON\nreturnerar JSON följt av en vänlig mening, utelämnar ett fält eller skriver ett\ntal som en textsträng. Beskriv den förväntade formen i JSON Schema, kontrollera\nvarje svar mot den och behandla ett svar som inte klarar kontrollen som ett fel\nsom ska försökas igen eller skickas vidare till en människa, aldrig som data.\n\n**Personuppgifter i prompter och loggar.** Allt som skickas till en modell hos\nen leverantör lämnar dina egna system, och en logg över prompter och svar\nbevarar personuppgifter långt efter att anropet är klart. NIST tillägger att\nmodeller kan återge känsligt material ur sina träningsdata, ett problem som har\nbeskrivits som memorering av data. Skicka bara de fält som en uppgift behöver,\nhåll promptloggarna under samma regler för bevarande och åtkomst som uppgifterna\ni dem, och läs leverantörens villkor om bevarande och träning innan\npersonuppgifter når den.\n\n## Läs mer\n\n- [NIST AI 600-1: Generative Artificial Intelligence Profile](https://doi.org/10.6028/NIST.AI.600-1)\n  — NIST:s tillägg från juli 2024 till sitt AI Risk Management Framework: tolv\n  risker med generativ AI, konfabulering bland dem, och föreslagna åtgärder för\n  var och en.\n- [Attention Is All You Need](https://arxiv.org/abs/1706.03762) — artikeln från\n  2017 som introducerade Transformer, som dagens språkmodeller bygger på.\n- [Language Models are Few-Shot Learners](https://arxiv.org/abs/2005.14165) —\n  artikeln från 2020 om en modell med 175 miljarder parametrar som tar sig an\n  nya uppgifter utifrån exempel i indata.\n- [Training language models to follow instructions with human feedback](https://arxiv.org/abs/2203.02155)\n  — finjustering på nedskrivna svar och rangordnade utdata, steget från\n  textförutsägare till assistent.\n- [Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection](https://arxiv.org/abs/2302.12173)\n  — instruktioner planterade i data som en modell läser, demonstrerade mot\n  verkliga applikationer.\n\n\u003chttps://engineer.company/sv/glossary/large-language-model/\u003e\n","date_modified":"2026-11-12T05:34:23Z","description":"Vad en stor språkmodell faktiskt räknar ut, varför svaren måste testas och inte bara tros på, och fem sätt som en funktion byggd på den går fel.","formats":{"gemtext":"https://engineer.company/sv/glossary/large-language-model/index.gmi","gopher":"https://engineer.company/sv/glossary/large-language-model/gophermap","html":"https://engineer.company/sv/glossary/large-language-model/","json":"https://engineer.company/sv/glossary/large-language-model/index.json","markdown":"https://engineer.company/sv/glossary/large-language-model/index.md","pdf":"https://engineer.company/sv/glossary/large-language-model/index.pdf"},"kind":"page","language":"sv","title":"Vad är en stor språkmodell?","url":"https://engineer.company/sv/glossary/large-language-model/","version":1}