AI Ordbog
Top-p (nucleus sampling)
Samplingsmetode der begrænser AI til de mest sandsynlige tokens.
Skrevet og redigeret af Kristian Primdal · Sidst opdateret 18. marts 2026Indhold
Hvad er top-p?
Top-p, også kaldet nucleus sampling, er en metode til at kontrollere hvor varierede eller fokuserede en AI-models svar er. Den virker ved at begrænse modellens valg til de mest sandsynlige tokens der tilsammen udgør en bestemt procentdel af den samlede sandsynlighed.
Når top-p er sat til 0.9, overvejer modellen kun de tokens der tilsammen udgør 90% af sandsynligheden. De resterende 10% (de mest usandsynlige tokens) ignoreres helt. Jo lavere top-p, jo færre tokens at vælge mellem, og jo mere fokuseret og forudsigeligt er outputtet.
Nucleus sampling blev introduceret i 2020 af Holtzman et al. i artiklen “The Curious Case of Neural Text Degeneration” og er blevet en standardparameter i alle store AI-API’er.
Hvordan fungerer top-p?
Forestil dig at modellen skal vælge det næste ord efter “Vejret i dag er”:
- Modellen beregner sandsynligheder: “godt” 40%, “dejligt” 25%, “fint” 15%, “varmt” 10%, “koldt” 5%, “fantastisk” 3%, andre 2%.
- Med top-p 0.9 sorteres tokens efter sandsynlighed, og modellen tager de mest sandsynlige indtil den kumulative sandsynlighed når 90%.
- “godt” (40%) + “dejligt” (65%) + “fint” (80%) + “varmt” (90%) = fire tokens der tilsammen udgør 90%.
- Modellen vælger kun blandt disse fire tokens. “koldt”, “fantastisk” og andre ignoreres.
- Sandsynlighederne renormaliseres så de fire tokens summer til 100%, og modellen sampler fra den nye fordeling.
Det smarte ved top-p er at antallet af tokens varierer dynamisk. Når modellen er meget sikker (ét token har 95% sandsynlighed), overvejes kun ét eller to tokens. Når modellen er usikker (mange tokens med lignende sandsynlighed), overvejes mange tokens.
Top-p vs. temperature
- Mekanisme. Temperature ændrer sandsynlighedsfordelingen for alle tokens. Top-p afskærer de mindst sandsynlige tokens helt.
- Dynamik. Top-p tilpasser sig automatisk konteksten: få valgmuligheder når modellen er sikker, mange når den er usikker. Temperature er statisk.
- Brug. De fleste eksperter anbefaler at justere enten temperature eller top-p, ikke begge. Begge samtidigt kan give uforudsigelige resultater.
- Standard. Mange API’er sætter top-p til 1.0 som standard (ingen filtrering) og lader temperature styre alene.
Top-p-værdier i praksis
- Top-p 1.0. Ingen filtrering. Alle tokens overvejes. Temperature styrer alene. Standard i mange API’er.
- Top-p 0.9-0.95. Let filtrering. Fjerner de mest usandsynlige tokens. God standard for de fleste opgaver.
- Top-p 0.7-0.8. Moderat filtrering. Mere fokuseret output. God til forretningskommunikation og tekniske opgaver.
- Top-p 0.1-0.5. Stram filtrering. Kun de mest sandsynlige tokens. Næsten deterministisk. God til fakta og kode.
Hvornår justere top-p?
- Kreativ skrivning. Høj top-p (0.9-1.0) for mere variation og overraskelser.
- Kodegenerering. Lav top-p (0.1-0.5) for korrekt, forudsigelig kode.
- Fakta og analyse. Lav top-p (0.3-0.7) for præcise, fokuserede svar.
- Chatbots. Medium top-p (0.7-0.9) for naturlig men kontrolleret samtale.
Top-p vs. top-k Top-p og top-k er begge filtreringsmetoder, men de fungerer forskelligt. Top-k tager altid de K mest sandsynlige tokens (f.eks. de 50 bedste). Top-p tager det varierende antal tokens der udgør P procent af sandsynligheden. Top-p er generelt foretrukket fordi den tilpasser sig dynamisk: den tager mange tokens når modellen er usikker og få når den er sikker.
FAQ
Hvad er top-p?
Top-p (nucleus sampling) er en parameter der styrer AI-modellens output ved at begrænse valget til de mest sandsynlige tokens, der tilsammen udgør en given procentdel af den samlede sandsynlighed. Lav top-p giver fokuserede svar, høj top-p giver mere varierede svar.
Hvad er forskellen på top-p og temperature?
Temperature ændrer sandsynlighedsfordelingen for alle tokens. Top-p afskærer de mindst sandsynlige tokens helt. Temperature er statisk, top-p tilpasser sig dynamisk. De fleste eksperter anbefaler at justere den ene, ikke begge.
Hvad bør top-p sættes til?
For de fleste opgaver er 0.9-0.95 en god standard. For kreativ skrivning, prøv 0.95-1.0. For kode og fakta, prøv 0.1-0.5. Eksperimentér med din specifikke use case for at finde den optimale værdi.