Hallucination

Hvad er hallucination?

Hallucination er når en AI-model genererer information der lyder overbevisende og troværdig, men som er forkert. Modellen “opdigter” fakta, kilder, citater, statistikker eller detaljer. Og præsenterer dem med fuld overbevisning som om de var sande.

Begrebet er lånt fra psykologien, hvor hallucination betyder at opfatte noget der ikke er der. AI-modeller “opfatter” mønstre i deres træningsdata og genererer output der følger disse mønstre. Men uden nogen forståelse af sandhed eller fakta.

Hallucinationer er et af de mest fundamentale problemer i moderne AI. De er grunden til at du aldrig ukritisk bør stole på AI-output, og de er en central motivation bag teknikker som RAG og grounding.

Hvorfor hallucinerer AI-modeller?

1. Sprogmodeller forudsiger. De ved ikke. En sprogmodel genererer det mest sandsynlige næste token. Den har ingen intern model af “sandhed.” Den genererer tekst der ligner korrekt tekst. Men at lyde korrekt og at være korrekt er to forskellige ting.
2. Træningsmønstre. Modellen har set mønstre som “X blev grundlagt i [årstal] af [person].” Den kan udfylde den form overbevisende selv for entiteter den ikke har tilstrækkelig information om.
3. Ingen “det ved jeg ikke.” Modeller er trænet til at give svar. De har ikke et robust internt signal for “dette ved jeg ikke”. De genererer det bedste bud i stedet for at indrømme uvidenhed.
4. Konfidensillusion. Modellen bruger den samme sikre, autoritative tone uanset om informationen er korrekt. Der er ingen korrelation mellem tonens sikkerhed og faktuel korrekthed.

Typer af hallucinationer

1. Faktuelt forkerte påstande. “Eiffeltårnet er 450 meter højt.” (Det er 330 meter.) Modellen opdigter eller forveksler tal og fakta.
2. Opdigtede kilder. “Ifølge en undersøgelse fra Harvard (2023)…” hvor undersøgelsen ikke eksisterer. Et af de farligste problemer, især i akademiske og juridiske kontekster.
3. Fiktive personer og begivenheder. Modellen kan opfinde forfattere, virksomheder eller historiske begivenheder der aldrig har eksisteret.
4. Plausibel men forkert kode. Kode der ser korrekt ud men indeholder subtile fejl: funktionskald til API’er der ikke eksisterer, parametre der er forkerte.
5. Inkonsistens. Modellen modsiger sig selv inden for den samme samtale, fordi den genererer tekst baseret på lokal kontekst snarere end en konsistent verdensmodel.

Hvordan reducerer du hallucinationer?

1. RAG (Retrieval-Augmented Generation). Giv modellen adgang til faktuelle dokumenter. Når modellen baserer svar på konkrete kilder, reduceres hallucinationer markant.
2. Grounding. Instruer modellen i at kun svare baseret på given kontekst. “Svar kun baseret på informationen ovenfor. Sig ‘det ved jeg ikke’ hvis svaret ikke fremgår.”
3. Lav temperature. Lavere temperature reducerer tilfældigheden og dermed sandsynligheden for opdigtede detaljer.
4. Kildehenvisning. Bed modellen om at citere sine kilder. Hallucinerede kilder er nemmere at faktatjekke.
5. Dekomponering. Bryd komplekse spørgsmål op i simple delspørgsmål. Modeller hallucinerer oftere på komplekse, flertrinsspørgsmål.
6. Faktakontrol. Brug altid menneskelig verifikation for kritisk information. AI-output bør aldrig bruges ukritisk til medicin, jura eller økonomi.

Hallucinationer i praksis

1. Juridisk. En advokat i New York brugte ChatGPT til at finde juridiske præcedenser. Modellen opdigtede seks domme med troværdige sagsnumre og dommernavne. Ingen af dem eksisterede. Advokaten blev idømt bøde.
2. Medicin. AI-modeller kan generere plausible men forkerte medicinske råd. Det er grunden til at medicinske AI-systemer altid kræver lægefaglig verifikation.
3. Journalistik. Artikler genereret af AI kan indeholde opdigtede citater, statistikker og kilder der ikke eksisterer.
4. Kodning. AI kan foreslå funktionskald til biblioteker der ikke eksisterer, eller bruge API’er med forkerte parametre.