Active learning

Hvad er active learning?

Active learning er en maskinlæringsteknik hvor modellen selv bestemmer hvilke datapunkter der ville være mest nyttige at få mærket af et menneske. I stedet for at mærke data tilfældigt, fokuserer man på de eksempler hvor modellen er mest usikker eller ville lære mest.

Mærkning af data er dyrt og tidskrævende. Hvis du har en million emails og skal mærke dem som “spam” eller “ikke spam”, er det urealistisk at mærke dem alle. Active learning lader modellen pege på de 1.000 emails den er mest usikker på, og de 1.000 mærkede emails giver ofte lige så god en model som 10.000 tilfældigt valgte.

Tænk på det som en studerende der stiller spørgsmål. En passiv studerende læser al teksten og håber at forstå det hele. En aktiv studerende identificerer hvad de ikke forstår og stiller målrettede spørgsmål. Active learning gør AI-modellen til den aktive studerende.

Hvordan fungerer active learning?

Processen er iterativ:

1. Start med lidt. Mærk en lille startmængde data og træn en indledende model.
2. Modellen vælger. Modellen analyserer den store pulje af umærkede data og udvælger de eksempler den er mest usikker på.
3. Mennesket mærker. En annotator mærker de udvalgte eksempler, typisk en lille batch ad gangen.
4. Gentræn. Modellen gentrænes med de nye mærkede eksempler.
5. Gentag. Cyklussen gentages til modellen har opnået tilfredsstillende præstation.

Udvælgelsesstrategier

1. Usikkerhedssampling. Vælg de eksempler modellen er mest usikker på. Hvis modellen vurderer en email som 51% spam og 49% ikke-spam, er den maksimalt usikker. Det eksempel er værdifuldt at mærke.
2. Query-by-committee. Træn flere modeller og vælg eksempler hvor modellerne er mest uenige. Stor uenighed tyder på at eksemplet er informativt.
3. Forventet modelændring. Vælg eksempler der ville ændre modellen mest hvis de blev tilføjet. Prioriterer eksempler med størst potentiel læringseffekt.
4. Diversitetssampling. Vælg eksempler der repræsenterer forskellige dele af datafordelingen for at sikre bred dækning.

Active learning i praksis

1. Medicinsk billedanalyse. Ekspertvurderinger af røntgenbilleder er dyre. Active learning identificerer de billeder hvor modellen er usikker, og kun dem sendes til radiologen.
2. NLP og dokumentklassifikation. Kategorisering af millioner af dokumenter kræver kun mærkning af tusindvis, hvis active learning bruges til at vælge de mest informative.
3. Selvkørende biler. Blandt millioner af kørselsbilleder vælges de mest udfordrende scenarier til menneskelig annotation.
4. Kvalitetskontrol. Inspektion af tusindvis af produkter. Active learning fokuserer på de tilfælde der er sværest at klassificere.