Open source modeller

Hvad er open source modeller?

Open source modeller er AI-modeller hvor modelvægtene (de milliarder af tal der definerer modellens “viden”) er frit tilgængelige til download. Du kan køre dem på din egen hardware, finjustere dem til dine specifikke behov og integrere dem i dine applikationer uden at betale per API-kald eller sende data til en ekstern tjeneste.

Det er det modsatte af lukkede modeller (closed source) som GPT-4 og Claude, hvor du kun kan tilgå modellen via en API og aldrig får adgang til selve modelvægtene.

Open source AI-modeller har skabt en demokratiseringsbølge: avanceret AI der tidligere krævede millioner i compute-budget og et team af forskere er nu tilgængeligt for enhver udvikler med en GPU.

Grader af “open source”

Begrebet “open source” i AI er mere nuanceret end i traditionel software:

1. Fuldt open source. Modelvægte, træningskode, træninsdata og evalueringskode er alle tilgængelige. Sjældent i praksis.
2. Open weights. Modelvægtene er tilgængelige, men træningskode og data er lukkede. Llama og Mistral falder i denne kategori. Du kan bruge og finjustere modellen men ikke reproducere træningen.
3. Open weights med restriktioner. Modelvægtene er tilgængelige men med en licens der begrænser visse typer brug. F.eks. kan Llamas licens forbyde brug for virksomheder over en vis størrelse.
4. Research-only. Modellen er tilgængelig men kun til forskning, ikke kommerciel brug.

Debatten om hvad der tæller som “ægte” open source AI er intens. Purister mener at kun fuldt open source (inkl. træningsdata) kvalificerer. Pragmatikere accepterer open weights som “open source nok.”

Populære open source modeller

Sprogmodeller (LLM)

1. Llama 4 (Meta). Metas seneste modelfamilie med Scout og Maverick-varianter. Bruger Mixture of Experts og er konkurrencedygtig med kommercielle alternativer.
2. Mistral / Mixtral. Effektive europæiske modeller. Mixtral 8x7B bruger Mixture of Experts for høj kvalitet ved lav compute.
3. Qwen 3 (Alibaba). Kinesisk modelfamilie der konkurrerer stærkt, særligt i kodning og matematik.
4. DeepSeek. Kinesiske modeller (V3, R1) der overraskede med stærk ydeevne til en brøkdel af konkurrenternes træningsomkostninger.
5. Gemma (Google). Googles open source-modeller, mindre end Gemini men stærke for deres størrelse.
6. Phi (Microsoft). Små men overraskende kapable modeller der demonstrerer at modelstørrelse ikke er alt.

Billedgenerering

1. Stable Diffusion. Den mest populære open source billedgenerator med et enormt community-økosystem.
2. FLUX. Næste generation fra Stable Diffusion-forskerne med markant forbedret kvalitet.

Talegenkendelse

1. Whisper (OpenAI). Open source talegenkendelse på over 90 sprog.

Embedding-modeller

1. BERT og varianter. Stadig bredt brugt til tekst-embedding og klassifikation.
2. Sentence Transformers. Open source embedding-modeller til semantisk søgning.

Fordele ved open source modeller

1. Datasuverænitet. Dine data forbliver på din infrastruktur. Afgørende for sundhed, finans, forsvar og andre regulerede brancher.
2. Ingen vendor lock-in. Du er ikke afhængig af én udbyder. Skift model, platform eller infrastruktur når du vil.
3. Tilpasning. Finjuster modellen til dit specifikke domæne, sprog eller use case. Kommercielle API’er tilbyder begrænset tilpasning.
4. Omkostninger ved skala. Ved høj volumen er lokal kørsel markant billigere end API-kald. Ingen per-token betaling.
5. Transparens. Du kan inspicere modellen, forstå dens begrænsninger og verificere dens adfærd.
6. Offline-brug. Kør modellen uden internetforbindelse. Vigtigt for feltstationer, militær og remote lokationer.

Ulemper ved open source modeller

1. Kapabilitet. De bedste kommercielle modeller (GPT-4o, Claude, Gemini) er generelt stadig stærkere end de bedste open source-modeller. Men gabet indsnævres hurtigt.
2. Infrastruktur. Du skal selv stå for hosting, skalering, overvågning og vedligeholdelse. Det kræver teknisk ekspertise.
3. Hardware. Selv de mindste modeller kræver en GPU. Store modeller kræver dyre multi-GPU setups eller cloud-compute.
4. Sikkerhed. Open source-modeller har typisk færre guardrails. Du er selv ansvarlig for at implementere sikkerhedslag.
5. Support. Ingen dedikeret support-team. Du er afhængig af community-dokumentation og fora.

Hvordan bruger man open source modeller?

1. Ollama. Det nemmeste startpunkt. Installér Ollama, kør ollama run llama4 og du har en lokal LLM kørende på minutter.
2. Hugging Face Transformers. Python-bibliotek der giver adgang til tusindvis af modeller med et unified API.
3. vLLM / TGI. Produktionsklare servere til at hoste og serve open source-modeller med høj throughput.
4. llama.cpp. C/C++ runtime der kører LLM’er effektivt, selv på CPU.
5. Cloud-platforme. AWS, Google Cloud og Azure tilbyder managed hosting af open source-modeller.

Open source vs. closed source