Deepfake

Hvad er en deepfake?

En deepfake er et billede, en video eller et lydklip der er genereret eller manipuleret med AI, så det realistisk efterligner en virkelig person. Navnet er en sammensætning af “deep learning” og “fake”. Dyb læring og forfalskning.

Teknologien kan bytte et ansigt på en video med en anden persons ansigt, generere en persons stemme der siger ting vedkommende aldrig har sagt, eller skabe helt nye videoer af virkelige mennesker i situationer der aldrig har fundet sted. Resultatet kan være så overbevisende at det er umuligt at skelne fra ægte materiale med det blotte øje.

Deepfakes er et tveægget sværd. Samme teknologi der muliggør imponerende filmeffekter og tilgængelighed for mennesker der har mistet stemmen, kan også bruges til desinformation, svindel og misbrug.

Hvordan fungerer deepfakes?

Ansigtsbytte (face swap)

Den mest kendte deepfake-teknik. Et neuralt netværk trænes til at kortlægge én persons ansigt til en andens:

1. Dataindsamling. Hundredvis eller tusindvis af billeder af begge personers ansigter indsamles.
2. Encoding. En encoder lærer at komprimere ansigter til en kompakt repræsentation (latent space).
3. Decoding. En decoder lærer at rekonstruere ansigter fra den kompakte repræsentation.
4. Bytte. Person A’s ansigtskompression sendes gennem person B’s decoder, hvilket genererer person A’s udtryk med person B’s ansigtstræk.

Generative Adversarial Networks (GAN)

GAN’er er en central teknologi bag mange deepfakes. Arkitekturen består af to neurale netværk der konkurrerer:

• Generatoren skaber falske billeder eller videoer
• Diskriminatoren forsøger at skelne ægte fra falske

Over tusindvis af iterationer bliver generatoren bedre til at snyde diskriminatoren, og resultatet bliver stadig mere realistisk. StyleGAN fra NVIDIA demonstrerede i 2019 at GAN’er kunne generere fotorealistiske ansigter af mennesker der ikke eksisterer.

Diffusion models

Nyere deepfake-teknologi bruger diffusion models. Samme teknologi bag Stable Diffusion, DALL-E og Midjourney. Disse modeller kan generere ekstremt realistiske billeder og i stigende grad video baseret på tekstbeskrivelser eller referencebilleder.

Stemmekloning (voice cloning)

AI kan klone en persons stemme baseret på få sekunders lyd:

1. Stemmeprofil. Modellen analyserer taleprøver og lærer personens stemmeklang, tonefald, tempo og accent.
2. Syntese. Ny tale genereres med den klonede stemme, enten fra tekst (text-to-speech) eller ved at konvertere en anden persons tale.

Moderne stemmekloning kræver så lidt som 3-15 sekunders lyd for at producere en overbevisende klon.

Lipsync-deepfakes

AI synkroniserer en persons mundbevægelser med ny lyd, så det ser ud som om personen siger noget andet end i den originale video. Teknikken kombinerer ofte ansigtsmanipulation med stemmekloning.

Typer af deepfakes

Underholdning og kreativt indhold

• Filmeffekter og de-aging af skuespillere
• Stemmegengivelse af afdøde kunstnere
• Komik og satire
• Kreative kunstprojekter

Skadelig brug

• Ikke-samtykkende intimt materiale. Den mest udbredte skadelige brug. AI bruges til at generere seksuelt materiale med virkelige personers ansigter uden deres samtykke.
• Politisk desinformation. Falske videoer af politikere der siger kontroversielle ting.
• Svindel. Stemmekloning brugt til at udgive sig for virksomhedsledere og autorisere pengeoverførsler.
• Identitetstyveri. Falske videoer brugt til at omgå biometrisk verifikation.
• Ry-beskadigelse. Falske videoer designet til at skade en persons omdømme.

Eksempler fra virkeligheden

Eksempel 1: CEO-svindel med stemmekloning

I 2019 blev en britisk energivirksomheds administrerende direktør snydt til at overføre 220.000 euro. Svindlerne brugte AI-stemmekloning til at efterligne stemmen fra virksomhedens tyske moderselskabs CEO i et telefonopkald. Stemmen var så overbevisende (med korrekt accent, tonefald og talehastighed) at direktøren ikke fattede mistanke.

Eksempel 2: Politisk deepfake

I marts 2022 dukkede en deepfake-video af Ukraines præsident Zelenskyj op, hvor han tilsyneladende beordrede ukrainske soldater til at overgive sig. Videoen var af tilstrækkelig kvalitet til at skabe forvirring, men blev hurtigt identificeret og afvist. Den illustrerede potentialet for deepfakes som våben i informationskrig.

Eksempel 3: Deepfakes i underholdning

Filmstudier bruger deepfake-teknologi til legitime formål. I “The Mandalorian” blev en ung Luke Skywalker genskabt med AI-baseret de-aging og stemmekloning. I “Top Gun: Maverick” blev AI brugt til at genskabe Val Kilmers stemme, efter han havde mistet den på grund af strubekræft. Disse anvendelser er med skuespillernes samtykke og demonstrerer teknologiens kreative potentiale.

Eksempel 4: Tilgængelighed

ALS-patienter og andre der mister evnen til at tale kan bruge stemmekloning til at bevare deres stemme. Mens de stadig kan tale, optager de stemmemateriale der bruges til at skabe en syntetisk version af deres stemme, som de senere kan bruge via et text-to-speech-system.

Detektion af deepfakes

Tekniske metoder

AI-baseret detektion Andre AI-modeller trænes til at identificere deepfakes. Disse detektionssystemer kigger efter:

• Unaturlige blinkmønstre eller ansigtsudtryk
• Inkonsistente belysning eller skygger
• Artefakter omkring ansigtsrande, ører og hår
• Unaturlig hudtekstur eller farvenuancer
• Inkonsistent bevægelse i baggrunden

Metadata-analyse Undersøgelse af filens metadata, kompressionsmønstre og digitale fingeraftryk kan afsløre manipulation.

Provenance-systemer Content Authenticity Initiative (CAI) og Coalition for Content Provenance and Authenticity (C2PA) udvikler standarder for at spore digitalt indholds oprindelse og redigeringshistorik gennem kryptografisk signerede metadata.

Menneskelige indikatorer

Selvom avancerede deepfakes kan være næsten umulige at spotte, kan man kigge efter:

• Unaturlige øjenbevægelser eller blinkmønstre
• Uoverensstemmelse mellem læbebevægelser og lyd
• Mærkelige artefakter ved ansigtsrande, ører eller hår
• Usammenhængende belysning
• Unaturlige bevægelser i hænder eller baggrund
• For glat hud eller mangel på naturlige ufuldkommenheder

Kapløbet mellem generering og detektion

Deepfake-detektion er et kapløb: Efterhånden som detektionsmetoder forbedres, tilpasser genereringsteknologien sig. Nyeste generationer af deepfakes er markant sværere at opdage end tidligere versioner. Detektion alene er ikke en tilstrækkelig løsning. Det skal kombineres med regulering, uddannelse og provenance-systemer.

Regulering af deepfakes

EU AI Act

EU AI Act adresserer deepfakes direkte:

• AI-genereret eller -manipuleret indhold (billeder, video, lyd) skal mærkes som AI-genereret
• Deepfakes der bruges til at vildlede offentligheden om autenticiteten kan forbydes under reglerne om manipulation
• Gennemsigtighedskrav gælder fra august 2026

Nationale love

Flere lande har indført eller arbejder på specifik deepfake-lovgivning:

• Sydkorea. Kriminaliserede distribution af deepfake-pornografi i 2020. Udvidede loven i 2024 til også at kriminalisere besiddelse og visning.
• Kina. Kræver at deepfakes mærkes og forbyder spredning af deepfakes uden samtykke.
• USA. Flere delstater har love mod deepfakes i valgkampagner og ikke-samtykkende intimt materiale.
• UK. Online Safety Act adresserer deepfake-pornografi.

Platformspolitikker

De store tech-platforme har politikker mod skadelige deepfakes:

• Meta, YouTube og TikTok kræver mærkning af AI-genereret indhold
• Platforme fjerner deepfakes der bruges til desinformation eller misbrug
• Valgperioder udløser skærpede regler for politisk AI-genereret indhold

Samfundsmæssig påvirkning

Erosion af tillid

Den mest fundamentale risiko ved deepfakes er erosionen af tillid til digitale medier. Når enhver video potentielt kan være forfalsket, bliver det sværere at skelne sandhed fra løgn. Og lettere at afvise ægte beviser som “deepfakes.” Denne “liar’s dividend” gør det muligt for enhver at afvise ubekvemt billedmateriale som AI-genereret.

Demokratisk trussel

Deepfakes kan bruges til at sprede politisk desinformation i et omfang og med en troværdighed der kan påvirke demokratiske processer. En overbevisende deepfake af en politisk leder der udsender en kontroversiel udtalelse dage før et valg kan være umulig at korrigere i tide.

Personlig skade

Ikke-samtykkende deepfake-pornografi er den mest udbredte skadelige brug og rammer uforholdsmæssigt mange kvinder. Ofre oplever alvorlig psykisk skade, og materialet kan være næsten umuligt at fjerne helt fra internettet.

Forsvar og modforanstaltninger

Teknologiske løsninger

• Vandmærker. Usynlige digitale vandmærker der identificerer AI-genereret indhold.
• Provenance. C2PA-standarden der kryptografisk dokumenterer et billedes oprindelse og redigeringshistorik.
• Detektion. AI-drevet deepfake-detektion som del af platformes moderationssystemer.

Uddannelse og mediekompetence

• Undervisning i kritisk mediekompetence i skoler
• Offentlig bevidsthed om deepfakes og hvordan man forholder sig skeptisk
• Journalistisk verifikation af kildemateriale

Juridiske rammer

• Lovgivning der kriminaliserer skadelig brug af deepfakes
• EU AI Acts mærkningskrav for AI-genereret indhold
• Erstatningsansvar for skade forårsaget af deepfakes

Ofte stillede spørgsmål

Hvad er en deepfake?

En deepfake er et AI-genereret eller -manipuleret billede, video eller lydklip der realistisk efterligner en virkelig person. Teknologien bruger deep learning (typisk GAN’er eller diffusion models) til at skabe indhold hvor en person ser ud til at sige eller gøre noget de aldrig har gjort. Navnet er en sammensætning af “deep learning” og “fake.”

Hvordan kan man genkende en deepfake?

Kig efter unaturlige øjenbevægelser, uoverensstemmelse mellem læbebevægelser og lyd, artefakter omkring ansigtsrande og ører, inkonsistent belysning og unaturlig hudtekstur. Avancerede deepfakes kan dog være næsten umulige at spotte med det blotte øje, og AI-drevet detektionssoftware er ofte nødvendig. Tjek også kilden og konteksten: dukker videoen op fra en utroværdig kilde med sensationelt indhold?

Er deepfakes ulovlige?

Det afhænger af konteksten og jurisdiktionen. Deepfakes til underholdning, kunst og forskning er generelt lovlige. Men skadelig brug er i stigende grad reguleret: EU AI Act kræver mærkning af AI-genereret indhold, flere lande kriminaliserer deepfake-pornografi uden samtykke, og brug af deepfakes til svindel er ulovligt under eksisterende straffelov. I Danmark er distribution af ikke-samtykkende intimt materiale allerede strafbart.

Kan man beskytte sig mod deepfakes?

Delvist. Begræns mængden af billeder og video af dig selv der er offentligt tilgængelige, da det reducerer materialet deepfake-skabere kan arbejde med. Vær opmærksom på stemmeoptagelser. Brug to-faktor-autentificering og undgå at stole udelukkende på biometrisk verifikation. På organisatorisk niveau: implementér verifikationsprocedurer for store pengeoverførsler (ring tilbage på et kendt nummer), og uddann medarbejdere i at genkende deepfake-svindel.