Large Language Model (LLM)

Hvad er en Large Language Model (LLM)?

En Large Language Model (forkortet LLM) er en stor AI-model der er trænet til at forstå og generere menneskeligt sprog. Når du stiller ChatGPT et spørgsmål, skriver med Claude eller bruger Google Gemini, kommunikerer du med en LLM.

“Large” refererer til modellens størrelse målt i parametre: de interne tal modellen har lært under træning. Tidlige sprogmodeller havde millioner af parametre. Moderne LLM’er har hundredvis af milliarder. Denne enorme skala er det der giver dem deres bemærkelsesværdige evner.

LLM’er er en specifik type foundation model der fokuserer på sprog. De kan skrive tekst, besvare spørgsmål, oversætte, opsummere dokumenter, generere kode, ræsonnere om komplekse problemer og meget mere. Ofte med en kvalitet der er svær at skelne fra menneskeskabt indhold.

Begrebet “LLM” blev almindeligt brugt fra omkring 2020, men det var lanceringen af ChatGPT i november 2022 der gjorde LLM’er til et hverdagsbegreb. Siden da har udviklingen accelereret eksplosivt, med nye og mere kapable modeller der lanceres hver måned.

Hvordan fungerer en LLM?

På sit mest fundamentale niveau gør en LLM én ting: den forudsiger det næste token i en sekvens. Men denne simple mekanisme, skaleret til milliarder af parametre og trænet på billioner af tokens, producerer noget der ligner forståelse og ræsonnement.

Processen har tre faser:

1. Præ-træning. Modellen læser enorme mængder tekst (bøger, websites, kode, akademiske artikler) og lærer at forudsige det næste ord. Under denne proces opbygger modellen en dyb forståelse af sprog, fakta, logik og ræsonnement. Præ-træning er ekstremt dyrt: det kræver tusindvis af GPU’er i uger eller måneder og kan koste hundredvis af millioner dollars.
2. Finjustering og alignment. Efter præ-træning finjusteres modellen til at være hjælpsom, ærlig og sikker. Det sker typisk via RLHF (Reinforcement Learning from Human Feedback), hvor mennesker vurderer modellens svar og den lærer at producere bedre output. Denne fase gør modellen fra en ren tekst-forudsiger til en nyttig assistent.
3. Inference (brug). Når du bruger modellen, sender du en prompt (din tekst), og modellen genererer et svar ét token ad gangen. Hvert nyt token vælges baseret på hele den forudgående kontekst: både din prompt og de tokens modellen allerede har genereret.

Hvad gør LLM’er så kapable?

Flere faktorer forklarer hvorfor LLM’er er så imponerende:

1. Skalering. Forskere har opdaget at større modeller trænet på mere data konsekvent bliver bedre. Denne “scaling law” har drevet udviklingen mod stadig større modeller. GPT-3 (2020) havde 175 milliarder parametre og var imponerende. GPT-4 (2023) er endnu større og markant mere kapabel.
2. Emergente evner. Ved en vis størrelse viser LLM’er evner de ikke eksplicit er trænet til. De kan pludselig løse matematikopgaver, skrive kode, ræsonnere logisk og forstå nuancer i sprog. Disse emergente evner opstår ikke gradvist. De dukker tilsyneladende op når modellen krydser en vis størrelses-tærskel.
3. Transfer learning. Fordi LLM’er er trænet på så bred data, kan de overføre viden mellem domæner. En model der har læst medicinsk litteratur og juridiske tekster kan besvare spørgsmål inden for begge felter, selvom den aldrig eksplicit er trænet til det.
4. In-context learning. LLM’er kan lære nye opgaver bare ved at se eksempler i prompten. Hvis du viser modellen tre eksempler på at oversætte fra dansk til spansk, kan den fortsætte mønsteret. Uden nogen form for ekstra træning.

De vigtigste LLM’er

1. GPT-serien (OpenAI). GPT-5-serien driver ChatGPT og er blandt de mest kapable modeller. Closed source. Kun tilgængelig via API. OpenAI var pionerer inden for skalering af LLM’er med GPT-3 i 2020.
2. Claude (Anthropic). Kendt for sikkerhed, pålidelighed og lange kontekstvinduer (op til 1 million tokens). Claude er stærk til analyse, kodning og nuancerede svar. Closed source, tilgængelig via API og claude.ai.
3. Gemini (Google). Googles multimodale LLM integreret i Google-produkter. Gemini kan behandle tekst, billeder, lyd og video. Closed source.
4. Llama (Meta). Metas open source LLM-serie. Llama 4 er konkurrencedygtig med mange closed source-modeller og har skabt et stort open source-økosystem. Kan downloades og køres lokalt.
5. Mistral (Mistral AI). Fransk AI-virksomhed med effektive open source-modeller. Mixtral bruger Mixture of Experts (MoE) for bedre ydeevne per beregningsenhed.

Hvordan bruges LLM’er i praksis?

LLM’er har allerede ændret måden mange arbejder:

1. Skrivning og kommunikation. Udkast til emails, rapporter, artikler og sociale medier-opslag. LLM’er fungerer som en skrive-assistent der sparer tid og forbedrer kvaliteten.
2. Programmering. Udviklere bruger LLM’er til at skrive kode, debugge, skrive tests og forstå komplekse kodebaser. Værktøjer som GitHub Copilot, Cursor og Claude Code er bygget ovenpå LLM’er.
3. Analyse og research. Opsummering af lange dokumenter, udtræk af nøgleinformation og syntese af viden fra mange kilder. En LLM kan læse hundredvis af sider og give dig de vigtigste pointer på få sekunder.
4. Kundeservice. Chatbots der forstår kundens spørgsmål og giver meningsfulde svar. Mange virksomheder bruger LLM-drevne chatbots som første kontaktpunkt.
5. Uddannelse. Personlige tutorer der kan forklare komplekse emner, tilpasse sig elevens niveau og besvare opfølgende spørgsmål.

Begrænsninger

LLM’er er imponerende men har vigtige begrænsninger:

1. Hallucination. LLM’er kan generere tekst der lyder overbevisende men er faktuelt forkert. De optimerer for sandsynlige ord-sekvenser, ikke for sandhed. Derfor bør output altid faktatjekkes for kritiske opgaver.
2. Forældet viden. En LLM ved kun hvad der var i dens træningsdata. Den kender ikke begivenheder efter sin træning medmindre den har adgang til eksterne værktøjer som websøgning.
3. Kontekst-begrænsning. Selvom kontekstvinduer er vokset markant (fra 4.000 tokens i tidlige modeller til over 1 million i nyere modeller), er der stadig en grænse for hvor meget information modellen kan arbejde med ad gangen.
4. Manglende verdensforståelse. LLM’er har ikke ægte forståelse af verden. De er ekstremt gode til mønstergenkendelse i tekst, men de forstår ikke kausalitet, fysik eller menneskelig erfaring på den måde mennesker gør.
5. Bias. LLM’er afspejler skævheder i deres træningsdata, herunder kulturelle, kønsrelaterede og racemæssige bias. Alignment-forskning forsøger at reducere dette, men problemet er ikke fuldt løst.