Spring til indhold
Alle noter

Dit eget svar først

En tanke om at tænke selv, før AI svarer, og om at kunne slippe sit eget svar igen.

Jeg har ment, at man skal skrive sit eget svar ned, før man spørger AI. Så har man noget at holde svaret op imod. I guiden om hybrid intelligens hedder det “døm før du ser”. Et hold byggede et system til en akutmodtagelse, hvor lægen skal skrive sin egen vurdering, før forløbet går videre. De tilføjede feltet, fordi lægerne ellers “ikke lærer noget”.

Jeg tror stadig på det. Men tre forsøg viser, at det løser det ene problem og kan skabe det andet.

Det første problem er gammelt. I 1998 lod Kathleen Mosier og Linda Skitka piloter flyve scenarier i en simulator, hvor automatikken af og til tog fejl. Piloterne brugte automatikkens signal i stedet for selv at tjekke de andre instrumenter. Det gav fejl. De piloter, der selv følte sig ansvarlige for resultatet, dobbelttjekkede oftere og lavede færre fejl. Det står i studiet.

I 2021 testede Zana Buçinca, Maja Barbara Malaya og Krzysztof Z. Gajos fra Harvard og Lodz University of Technology, hvad der hjælper. 199 deltagere skulle gøre et måltid kulhydratfattigt med hjælp fra en AI, der havde ret tre ud af fire gange. Nogle fik AI’ens forslag med det samme. Andre skulle først svare selv, vente 30 sekunder eller selv bede om forslaget. Så talte forskerne, hvor ofte folk gik med på et forkert forslag. Fik de forslaget med det samme, skete det i 64 procent af tilfældene. Skulle de tænke selv først, faldt det til 48 procent. Forskernes konklusion er, at det hjælper at tænke selv, før man ser AI’ens svar. Hvordan man gør det, betød mindre. At svare selv, vente eller bede om forslaget gav samme resultat i forsøget. Men det fjernede ikke problemet. Deltagere helt uden AI klarede sig stadig bedre, når AI’en tog fejl.

Så kommer lægerne. I 2025 offentliggjorde Daniel McDuff og en gruppe fra Google et studie i Nature. 20 amerikanske læger fik 302 svære sager. For hver sag skrev de først deres egen liste over mulige diagnoser uden hjælp. Derefter fik nogle af dem en AI, der hedder AMIE, og lavede listen igen.

Lægerne gjorde altså det, jeg har ment, man skal. AMIE alene havde den rigtige diagnose med i 59,1 procent af sagerne. Lægerne alene ramte 33,6 procent. Lægerne med AMIE ramte 51,7 procent. Forfatterne peger selv på én forklaring: Lægerne var ankret til deres første liste. De skriver også, at det kan være blevet værre af, at lægerne skulle svare to gange.

Det er to måder at tage fejl på. Piloterne stolede for meget på maskinen. Lægerne stolede for meget på deres eget første svar. Når man skriver sit svar først, beskytter det mod piloternes fejl. Men det kan skubbe en hen mod lægernes.

Jeg tror, løsningen er at skrive sit svar først og så give AI’en lov til at vælte det. Holdet fra akutmodtagelsen byggede også en knap, der beder systemet om at udfordre lægens egen hypotese. Det er den anden halvdel. Først tager man stilling. Så beder man om modstand.

Ingen af de tre studier er en arbejdsplads. Piloterne sad i en simulator, deltagerne hos Buçinca var lægfolk med en opgave om mad, og lægerne arbejdede med sager fra tidsskrifter. Men tilsammen siger de, at det har brug for en anden halvdel. Skriv dit eget svar først, og vær klar til at slippe det igen.

Alle noter