Gemma (Google)

Hvad er Gemma?

Gemma er Googles familie af lette, åbne modeller. De er bygget på samme forskning og teknologi som Googles store Gemini-modeller, men hvor Gemini er lukket og kun tilgængelig via API, kan Gemma downloades og køres på din egen hardware.

Det er kombinationen der gør Gemma interessant: du får modeller i Google-kvalitet med åbne vægte, så du selv bestemmer hvor de kører og hvad der sker med dine data. Modellerne findes i flere størrelser, fra ganske små varianter der kører på en telefon, til 27B-modeller der kræver en ordentlig GPU.

Gemma-modeller og -versioner

1. Gemma 1 (februar 2024). Den første generation, frigivet i størrelserne 2B og 7B. Den etablerede Gemma som et seriøst åbent alternativ fra Google.
2. Gemma 2 (2024). Anden generation i størrelserne 2B, 9B og 27B med markant stærkere ydeevne i forhold til modellernes størrelse. 27B-modellen klarede sig overraskende godt mod meget større modeller.
3. Gemma 3 (marts 2025). Størrelser omkring 1B, 4B, 12B og 27B (plus en lille 270M-variant). De større varianter (4B og op) er multimodale og forstår både tekst og billeder, har et kontekstvindue på op til 128K tokens og stærk understøttelse af mange sprog.
4. Gemma 3n. En variant der er optimeret til mobile enheder og edge-hardware, så du kan køre modellen direkte på en telefon eller en lille enhed uden cloud.
5. Gemma 4 (april 2026). Den nyeste generation, frigivet under Apache 2.0-licensen. Modellerne er multimodale på tværs af lineuppet (tekst, billede og video, med lyd på de mindste varianter) og findes i flere størrelser fra effektive edge-modeller til større dense- og mixture-of-experts-modeller. Skiftet til Apache 2.0 gør Gemma 4 til ægte open source uden de særlige vilkår, der gjaldt for de tidligere versioner.

Specialiserede varianter

1. CodeGemma. Finjusteret til kodning, kodegenerering og kodeforståelse.
2. PaliGemma. En vision-language model der kombinerer billede- og sprogforståelse, for eksempel til billedbeskrivelse og spørgsmål om billeder.
3. RecurrentGemma. En variant med en arkitektur der giver mere effektiv inference, særligt ved lange sekvenser.
4. MedGemma. Tilpasset medicinske og sundhedsfaglige opgaver, hvor der er behov for domænespecifik forståelse.

Hvad gør Gemma særlig?

1. Google-teknologi du kan køre selv. Gemma bygger på samme forskning som Gemini, men er åben. Det er sjældent at få modeller fra en af de store labs i en form du frit kan downloade og hoste.
2. Bredde i størrelser. Fra små edge-modeller til større modeller på omkring 30B kan du vælge den model der passer til opgaven og hardwaren, lige fra en telefon til en server.
3. Multimodalitet og lang kontekst. De største Gemma 3-modeller forstår billeder og kan håndtere meget lange tekster, hvilket åbner for flere typer opgaver.
4. Ægte open source fra Gemma 4. Gemma 4 frigives under Apache 2.0, en OSI-godkendt open source-licens uden særlige brugsbegrænsninger. De ældre versioner (Gemma 1 til 3) brugte en særlig Gemma-licens, der tillod kommerciel brug, men ikke var OSI-godkendt. Bruger du en ældre version, er det en nuance at kende, før du bygger et kommercielt produkt oven på den.

Hvordan bruges Gemma?

1. Lokalt på egen hardware. Gemma er designet til at køre på beskeden hardware. De mindste modeller kører på en laptop eller endda en telefon, mens de største kræver en GPU. Du kan køre dem via Ollama, llama.cpp, vLLM og lignende værktøjer.
2. Via Googles platforme. Gemma kan også tilgås via Google Cloud (Vertex AI) og hentes fra steder som Hugging Face og Kaggle.
3. Finjustering. Med LoRA, QLoRA eller fuld fine-tuning kan Gemma specialiseres til et bestemt domæne med dine egne data.
4. Som base for egne løsninger. Fordi modellerne er åbne og findes i mange størrelser, egner Gemma sig godt som fundament for løsninger hvor du ønsker fuld kontrol over modellen.

Gemma vs. andre åbne modeller

1. Gemma vs. Llama. Begge er åbne familier fra store amerikanske spillere. Llama har et meget stort økosystem af varianter, mens Gemma trækker på Googles forskning og ofte er stærk i forhold til sin størrelse.
2. Gemma vs. Qwen. Qwen dækker et endnu bredere spektrum af størrelser og har stærk flersproget understøttelse. Gemma er mere fokuseret, men leverer solid kvalitet på de størrelser den dækker.
3. Gemma vs. Gemini. Gemini er Googles store lukkede modeller du betaler for at bruge via API. Gemma er den åbne modpart du selv kan køre. Du bytter en del rå kraft for kontrol, datalokation og ingen per-token omkostning.

Vigtige overvejelser

1. Tjek licensen på den version du bruger. Gemma 4 frigives under Apache 2.0 og er klassisk open source. De ældre versioner (Gemma 1 til 3) bruger en særlig Gemma-licens, der tillader kommerciel brug, men ikke er OSI-godkendt. Læs vilkårene før du bygger et produkt på en ældre version.
2. Datalokation som fordel. Fordi du kan downloade og køre Gemma på din egen infrastruktur i EU, forlader dine data aldrig dit miljø. Det er en stor fordel når du arbejder med følsomme oplysninger og skal forholde dig til GDPR.
3. Vælg den rigtige størrelse. Du behøver ikke den største model. For mange opgaver er en 4B- eller 12B-model rigeligt, og den kører på langt billigere hardware.