Emergent abilities

Hvad er emergent abilities?

Emergent abilities (emergente evner) er kapabiliteter der pludselig opstår i store AI-modeller ved en bestemt skala, uden at være eksplicit programmeret eller forudsagt. En model med 1 milliard parametre kan være ude af stand til at løse en bestemt type opgave, mens en model med 100 milliarder parametre pludselig kan. Ikke gradvist bedre, men fra nul til fungerende.

Begrebet “emergence” kommer fra kompleksitetsteori og beskriver fænomener hvor et systems kollektive adfærd ikke kan forudsiges ud fra dets enkeltdele. Vand er flydende, men ingen enkelt vandmolekyle er “flydende.” Bevidsthed opstår fra neuroner, men ingen enkelt neuron er bevidst. På lignende vis kan en sprogmodel demonstrere ræsonneringsevner der ikke kan spores tilbage til nogen enkelt del af dens træning.

Konceptet blev formaliseret i en indflydelsesrig artikel fra 2022 af Jason Wei et al. fra Google Research, der identificerede og dokumenterede en række evner der syntes at opstå abrupt ved bestemte modelstørrelser.

Eksempler på emergente evner

Chain-of-thought ræsonnering

Små modeller kan ikke løse multi-step matematikopgaver, selv når de opfordres til at “tænke trin for trin.” Men over en bestemt skala (typisk 50-100 milliarder parametre) begynder modeller pludselig at kunne producere korrekte trin-for-trin ræsonnementer.

Eksempel:

Spørgsmål: En butik har 3 kasser med 12 æbler i hver.
De sælger 7 æbler. Hvor mange æbler har de?

Lille model (10B): "36 æbler" (forkert, gætter)

Stor model (100B+): "3 kasser × 12 æbler = 36 æbler.
36 - 7 solgt = 29 æbler." (korrekt, med ræsonnement)

Oversættelse mellem sjældne sprogpar

Modeller trænet primært på engelsk udvikler evnen til at oversætte mellem sprog de har set relativt lidt af, f.eks. fra finsk til japansk, uden at have set mange direkte finsk-japansk oversættelsespar i træningsdata. Evnen emergerer fra en dybere sproglig forståelse der transcenderer individuelle sprogpar.

Aritmetisk ræsonnering

Flercifret addition og multiplikation er evner der manifesterer sig abrupt. Modeller under en bestemt størrelse giver tilfældige svar på flercifret matematik, mens større modeller pludselig kan løse dem korrekt.

Kodegenerering

Evnen til at skrive korrekt, fungerende kode fra en naturligsproglig beskrivelse er en emergent evne. Små modeller producerer kode-lignende tekst der sjældent virker; store modeller producerer kode der kører og løser opgaven.

Instruktionsfølgning

Evnen til at forstå og følge komplekse, sammensatte instruktioner (“skriv et digt om havet i rim, maks 8 linjer, med et positivt budskab”) emergerer ved en bestemt skala. Mindre modeller fanger måske ét krav men ignorerer resten.

Skala og emergens

Hvad menes med “skala”?

I AI-kontekst refererer skala typisk til tre dimensioner:

Emergente evner korrelerer med alle tre dimensioner, men compute (den samlede beregningsmængde) anses ofte for den mest fundamentale, fordi den fanger interaktionen mellem modelstørrelse og datamængde.

Faseskift

Emergente evner beskrives ofte som faseskift, et begreb lånt fra fysik. Ligesom vand abrupt skifter fra flydende til gas ved 100°C, skifter en models kapabilitet abrupt fra “kan ikke” til “kan” ved en bestemt skala:

Model performance på en given opgave:

Performance
    |
    |                          ___________
    |                         /
    |                        /
    |          _____________/  ← Faseskift ved kritisk skala
    |         |
    |_________|
    |
    +----------------------------------------→ Skala (parametre/compute)

Under faseskiftet er performance nær nul (eller tilfældig). Over faseskiftet er den markant bedre. Overgangen er skarp, ikke gradvis.

Uforudsigelighed

Det mest bemærkelsesværdige (og potentielt bekymrende) aspekt af emergente evner er at de er svære at forudsige. Man kan ikke nemt se på en 10B-model og sige “denne evne vil emergere ved 100B.” Evnerne dukker op som overraskelser.

Debatten om emergente evner

Er emergence reelt?

I 2023 udfordrede en indflydelsesrig artikel af Schaeffer et al. (“Are Emergent Abilities of Large Language Models a Mirage?”) hele konceptet. Deres argument:

Påstanden: Emergente evner er en artefakt af hvordan vi måler. Ikke en reel egenskab ved modellerne.

Argumentet: Når vi bruger diskontinuerte metrics (f.eks. “eksakt match” hvor enten er svaret 100% korrekt eller forkert), ser vi skarpe faseskift. Men hvis vi i stedet bruger kontinuerte metrics (f.eks. “hvor tæt er svaret på det korrekte”), ser vi gradvis, forudsigelig forbedring. Ingen pludselige spring.

Eksempel: En matematikopgave med svaret “42”:

• Model A svarer “41” → Eksakt match: 0% (forkert)
• Model B svarer “42” → Eksakt match: 100% (korrekt)

Med eksakt match ser det ud som et pludseligt spring. Men med en metric der måler afstand til det korrekte svar, forbedrer modellerne sig gradvist: fra “helt ved siden af” til “tæt på” til “korrekt.”

Modargumenter

Forsvarerne af emergence argumenterer for at:

1. Det er definitionen: Selv hvis den underliggende forbedring er gradvis, er den funktionelle kapabilitet stadig emergent. En model der svarer “41” i stedet for “42” er funktionelt ubrugelig til den opgave. Den graduelle forbedring er irrelevant for brugeren.

2. Kvalitative spring: Nogle evner (f.eks. kodegenerering, kompleks ræsonnering) involverer virkelig kvalitative spring der ikke reduceres til graduelle forbedringer i enkeltmetrics.

3. Uforudsigelighed: Uanset om springet er reelt eller en måleartefakt, er det stadig sandt at vi ikke kan forudsige hvornår en model vil mestre en given opgave. Det har vigtige implikationer for AI-sikkerhed.

Den nuværende konsensus

De fleste forskere anerkender at begge perspektiver har merit:

• Ja, valget af metric påvirker om forbedringer ser gradvise eller abrupte ud
• Ja, der er reelle kvalitative spring i funktionel kapabilitet ved bestemte skalaer
• Ja, vores evne til at forudsige nye kapabiliteter er begrænset
• Nej, vi kan ikke med sikkerhed sige om emergence er et fundamentalt fænomen eller primært en måleartefakt

Implikationer for AI-sikkerhed

Uforudsete kapabiliteter

Hvis AI-modeller kan udvikle uforudsete evner ved øget skala, bliver sikkerhedsevaluering fundamentalt vanskelig. Man kan ikke teste for evner man ikke ved modellen har. En model der ser uskadelig ved 100B parametre kan potentielt have farlige kapabiliteter ved 1T parametre.

Alignment-udfordringen

Emergente evner komplicerer AI alignment (arbejdet med at sikre at AI-systemer handler i overensstemmelse med menneskelige værdier). Hvis nye kapabiliteter dukker op uventet, kan de potentielt inkludere evner til at omgå sikkerhedsforanstaltninger eller agere på måder der ikke var forudset.

Accelererende kapabiliteter

Hvis emergente evner er reelle og uforudsigelige, kan den næste generation af modeller potentielt demonstrere fundamentalt nye kapabiliteter der ændrer risikovurderingen dramatisk. Det er et centralt argument for forsigtighed i AI-udvikling.

Emergente evner i praksis

For modeludviklere

Emergente evner betyder at skalering ikke kun giver “mere af det samme.” Det kan give kvalitativt nye kapabiliteter. Det er en af de primære motivationer for at bygge stadigt større modeller, trods de enorme omkostninger.

For virksomheder

Vær opmærksom på at en models kapabiliteter kan ændre sig markant mellem versioner. En opgave der var umulig for GPT-3 kan være triviel for GPT-4. Ikke fordi den er lidt bedre, men fordi en relevant evne er emergeret.

For samfundet

Emergente evner gør det sværere at regulere AI proaktivt. Hvis vi ikke kan forudsige hvad den næste generation af modeller kan, bliver det svært at lave regler der er fremtidssikrede. Det styrker argumentet for løbende evaluering og overvågning snarere end one-off-godkendelser.

Ofte stillede spørgsmål

Hvad er emergent abilities i AI?

Emergent abilities er kapabiliteter der pludselig manifesterer sig i store AI-modeller ved en bestemt skala, typisk målt i parametre, data eller compute. Disse evner er ikke eksplicit programmeret og var ikke forudsagt ud fra modellens performance ved mindre skala. Eksempler inkluderer chain-of-thought ræsonnering, kodegenerering og kompleks instruktionsfølgning. Konceptet er centralt for debatten om AI-sikkerhed og fremtidige kapabiliteter.

Hvorfor er emergent abilities kontroversielt?

Der er en aktiv debat om hvorvidt emergente evner er et reelt fænomen eller en måleartefakt. Kritikere argumenterer for at de skarpe faseskift skyldes diskontinuerte metrics: at underliggende forbedringer er gradvise, men vores målemetoder gør dem til tilsyneladende spring. Forsvarere hævder at funktionelle kvalitative spring er reelle og praktisk betydningsfulde uanset de underliggende mekanismer. De fleste forskere anerkender at begge perspektiver har merit.

Hvilke emergente evner har AI-modeller?

Dokumenterede emergente evner inkluderer chain-of-thought ræsonnering (trin-for-trin problemløsning), flercifret aritmetik, kodegenerering fra naturligt sprog, oversættelse mellem sjældne sprogpar, kompleks instruktionsfølgning, og evnen til at forklare humor og ironi. Disse evner er stort set fraværende i modeller under en bestemt størrelse men funktionelle i større modeller.

Hvad betyder emergent abilities for AI-sikkerhed?

Emergente evner komplicerer AI-sikkerhed fordi de er svære at forudsige. Hvis modeller kan udvikle uforudsete kapabiliteter ved øget skala, kan sikkerhedsevaluering ikke dække alle mulige risici. Det styrker argumentet for løbende overvågning og evaluering af nye modeller i stedet for engangsgodkendelser, og det er en central motivation for forsigtighedsprincippet i AI-udvikling.