Transfer learning

Hvad er transfer learning?

Transfer learning er princippet om at viden lært i én kontekst kan overføres til en anden. I stedet for at træne en AI-model fra bunden til hver ny opgave, tager man en model der allerede har lært noget nyttigt og bygger videre på den.

Det er som at lære et nyt sprog. Hvis du allerede taler dansk og engelsk, er det lettere at lære norsk. Du overfører din viden om germanske sprog, grammatiske strukturer og sproglige konventioner. En person der aldrig har lært et fremmedsprog har det meget sværere.

Transfer learning er grunden til at du kan tage en model som GPT-4 eller Llama, der er trænet bredt på internettet, og fine-tune den til at blive ekspert i juridisk rådgivning med blot nogle tusinde eksempler. Modellen overfører sin brede sprogforståelse og verdensviden til det nye domæne.

Uden transfer learning ville AI være langt mindre tilgængeligt. Hver ny opgave ville kræve millioner af eksempler og enorm beregningskraft. Transfer learning har demokratiseret AI ved at lade alle bygge på det arbejde andre allerede har gjort.

Hvordan fungerer transfer learning?

Den grundlæggende idé har to trin:

1. Kilde-opgave. En model trænes på en stor, bred opgave, typisk med enorme mængder data. For sprogmodeller er det at forudsige næste token i billioner af ord. For billedmodeller er det at klassificere millioner af billeder.
2. Mål-opgave. Den trænede model overføres til en ny, typisk mere specifik opgave. Modellens lærte repræsentationer (forståelse af sprog, mønstre i billeder) genbruges og tilpasses til den nye opgave med langt mindre data.

Typer af transfer learning

1. Feature extraction. De lærte repræsentationer fra kilde-modellen bruges direkte som input til en ny model. Kun det sidste lag trænes. Hurtigt og effektivt, men begrænset i tilpasningsevne.
2. Fine-tuning. Hele modellen (eller dele af den) genåbnes for træning på den nye opgave. Giver bedre resultater men kræver mere data og beregning.
3. Domænetilpasning. Overførsel mellem forskellige men relaterede domæner, f.eks. fra generel tekst til medicinsk tekst.
4. Cross-lingual transfer. Overførsel af sprogforståelse mellem sprog. En model trænet primært på engelsk kan ofte forstå dansk acceptabelt fordi den har lært underliggende sprogstrukturer der deles på tværs af sprog.

Transfer learning i praksis

1. LLM’er og fine-tuning. Den mest udbredte form for transfer learning i dag. Præ-trænede sprogmodeller som Llama fine-tunes til specifikke opgaver som kundeservice, kodning og medicinsk rådgivning med relativt få eksempler.
2. Computer vision. Modeller præ-trænet på ImageNet (14 millioner billeder) overføres til specialiserede billedopgaver som medicinsk diagnostik, satellit-billedanalyse og kvalitetskontrol med blot nogle hundrede eller tusinde domænespecifikke billeder.
3. Talegenkendelse. OpenAI’s Whisper er præ-trænet på 680.000 timer tale og kan finjusteres til at genkende specifikke accenter, sprog eller domæne-terminologi.
4. NLP-opgaver. BERT revolutionerede NLP i 2018 ved at vise at en præ-trænet sprogmodel kunne fine-tunes til næsten enhver tekstopgave (sentimentanalyse, navnegenkendelse, tekstklassifikation) og slå specialbyggede modeller.

Hvorfor er transfer learning vigtigt?

1. Demokratisering. Virksomheder og forskere uden millioner af dollars kan bygge state-of-the-art AI ved at bygge på eksisterende modeller.
2. Effektivitet. I stedet for at gentræne fra bunden til hver opgave, genbruges det enorme arbejde der allerede er lagt i præ-træningen.
3. Mindre data. Transfer learning kræver markant mindre data til den nye opgave. En medicinsk AI kan bygges med tusindvis af eksempler i stedet for millioner.
4. Bedre resultater. Modeller med transfer learning præsterer typisk bedre end modeller trænet fra bunden, fordi de starter med en rig forståelse af verden.