GPT (Generative Pre-trained Transformer)

Hvad er GPT?

GPT, Generative Pre-trained Transformer, er OpenAIs serie af store sprogmodeller. Det er den modelfamilie der ligger bag ChatGPT, som i november 2022 gjorde AI tilgængeligt for alle.

Navnet afslører arkitekturen:

• Generative: Modellen genererer nyt indhold (tekst, kode, analyse) i stedet for bare at klassificere eller sortere.
• Pre-trained: Modellen er forhåndstrænet på enorme mængder tekst fra internettet, bøger og kode, før den finjusteres til specifikke opgaver.
• Transformer: Den underliggende arkitektur er Transformer, opfundet af Google i 2017, som bruger attention-mekanismer til at forstå sammenhænge i tekst.

GPT-versioner

1. GPT-1 (2018). Den første GPT-model med 117 millioner parametre. Viste at pre-training + fine-tuning var en stærk tilgang, men var ikke praktisk nyttig for de fleste.
2. GPT-2 (2019). 1,5 milliarder parametre. Markant bedre tekstgenerering. OpenAI holdt først modellen tilbage fordi de frygtede misbrug. Et tidligt eksempel på AI-sikkerhedsdebat.
3. GPT-3 (2020). 175 milliarder parametre. Et kvantespring: demonstrerede in-context learning og few-shot evner. Den første model der var genuint nyttig via API.
4. GPT-3.5 (2022). Grundlaget for ChatGPT. Optimeret med RLHF for at være mere konversationel, hjælpsom og sikker. Udløste den globale AI-bølge.
5. GPT-4 (2023). Multimodal (tekst + billeder), markant bedre ræsonnering, færre hallucinationer. Benchmark-sætter der bestod juraeksamen og medicinske tests.
6. GPT-4o (2024). “o” for omni. Nativt multimodal med tekst, billeder, lyd og video i én model. Hurtigere og billigere end GPT-4.
7. GPT-5 (2025). Næste generation med stærkere ræsonnering og multimodal forståelse. Efterfølgende opdateringer som GPT-5.2 og GPT-5.3 fulgte i 2026.

Hvad kan GPT?

1. Tekstgenerering. Skrive artikler, emails, rapporter, markedsføringstekst og kreativt indhold i næsten ethvert format og stil.
2. Kodning. Generere, forklare, debugge og refaktorere kode i de fleste programmeringssprog.
3. Analyse. Opsummere dokumenter, analysere data, sammenligne argumenter og udtrække indsigter fra tekst.
4. Konversation. Føre naturlige samtaler med kontekstforståelse over mange beskeder.
5. Multimodal forståelse. (GPT-4 og nyere) Analysere billeder, diagrammer og skærmbilleder og svare på spørgsmål om dem.
6. Ræsonnering. Løse logiske problemer, matematiske opgaver og multi-trin ræsonnementer.

GPTs betydning

GPT-serien har haft stor indflydelse på teknologiindustrien:

1. Demokratisering af AI. ChatGPT gjorde AI tilgængeligt for alle. Ikke kun forskere og udviklere. Over 100 millioner brugere på to måneder.
2. API-økonomi. GPT via API skabte et helt økosystem af AI-drevne produkter. Tusindvis af virksomheder bygger på GPT-modeller.
3. Konkurrence. GPTs succes drev Anthropic (Claude), Google (Gemini), Meta (Llama) og andre til at accelerere deres AI-programmer massivt.
4. Regulering. GPTs udbredelse udløste den globale debat om AI-regulering, herunder EUs AI Act.

GPT vs. andre modeller

1. GPT vs. Claude. Begge er stærke generalist-LLM’er. GPT har bredere multimodal understøttelse og det største økosystem. Claude har længere kontekstvindue og stærkere fokus på sikkerhed.
2. GPT vs. Gemini. Gemini er Googles svar, med dyb integration i Google-økosystemet og stærk multimodal forståelse. GPT har det bredere tredjepartsøkosystem.
3. GPT vs. open source (Llama, Mistral). Open source-modeller kan køres lokalt og tilpasses, men er generelt mindre kapable end de kommercielle GPT-modeller.

OpenAI, virksomheden bag GPT

OpenAI blev grundlagt i 2015 som en non-profit AI-forskningsorganisation. Medstiftere inkluderer Sam Altman, Elon Musk og Ilya Sutskever. I 2019 oprettede de en for-profit enhed for at finansiere den dyre modeludvikling. OpenAI er i dag en af verdens mest værdifulde tech-startups.