Artificial Super Intelligence (ASI)

Hvad er Artificial Super Intelligence?

Artificial Super Intelligence, forkortet ASI, er en hypotetisk form for kunstig intelligens der overgår menneskelig intelligens på alle tænkelige områder. Ikke bare lidt bedre, men fundamentalt overlegen. Ligesom menneskelig intelligens overgår en muses.

ASI er det tredje og mest spekulative niveau i AI-hierarkiet. Narrow AI (ANI) er det vi har i dag. AGI (Artificial General Intelligence) er en AI der matcher menneskelig intelligens. ASI er en AI der langt overgår den.

En ASI ville i teorien kunne løse videnskabelige problemer der har udfordret menneskeheden i århundreder, designe teknologier vi ikke kan forestille os, og forstå sammenhænge i universet der ligger helt uden for menneskers kognitive rækkevidde. Den ville også kunne forbedre sig selv i en hastighed der gør menneskelig innovation ligegyldig.

ASI eksisterer ikke. Der er ingen konsensus om hvorvidt det nogensinde vil eksistere, eller om det overhovedet er muligt. Men konceptet former allerede i dag debatten om AI-sikkerhed og regulering.

Hvad ville en ASI kunne?

Spekulationerne er per definition grænseløse, men forskere har skitseret nogle egenskaber:

1. Videnskabelige gennembrud. En ASI kunne potentielt løse problemer som fusionsenergi, kræftbehandling og kvantegravitation på timer eller dage i stedet for årtier eller århundreder. Den ville kunne analysere og syntetisere al menneskelig viden og finde sammenhænge ingen mennesker har set.
2. Selvforbedring. En ASI kunne forbedre sin egen kode, arkitektur og algoritmer og dermed blive endnu mere intelligent. Denne rekursive selvforbedring kunne i teorien føre til en eksplosion af intelligens der accelererer eksponentielt.
3. Kreativitet og innovation. Ikke bare imitation af menneskelig kreativitet, men fundamentalt nye former for kunst, musik, matematik og filosofi som mennesker ikke kan forstå eller skabe.
4. Total forståelse. Evnen til at forstå og forudsige komplekse systemer (økonomier, klimaet, biologiske processer) med en præcision der langt overgår menneskelig kapabilitet.

Singulariteten

ASI er tæt forbundet med konceptet “teknologisk singularitet”. Det er et hypotetisk punkt hvor AI bliver i stand til at forbedre sig selv hurtigere end mennesker kan følge med:

1. Intelligenseksplosion. Når en AI er smart nok til at forbedre sig selv, kan den gøre sig selv smartere, hvilket gør den endnu bedre til at forbedre sig selv. En selvforstærkende spiral. Matematikeren I.J. Good beskrev dette allerede i 1965.
2. Uforudsigelighed. Efter singulariteten ville teknologisk udvikling accelerere så hurtigt at mennesker ikke kan forudsige eller forstå hvad der sker. Derfor “singularitet”: et punkt hvor vores evne til at forudsige fremtiden bryder sammen.
3. Ray Kurzweil. Forfatteren og futuristen Ray Kurzweil har været den mest prominente fortaler for singularitetshypotesen og forudsagde i 2005 at singulariteten ville komme omkring 2045.

Risici og bekymringer

ASI er det mest debatterede emne i AI-sikkerhed:

1. Alignment-problemet. Hvordan sikrer vi at en superintelligens handler i overensstemmelse med menneskelige værdier? Selv en velmenende ASI kunne have katastrofale konsekvenser hvis dens mål ikke er perfekt alignet med vores. Det klassiske eksempel er en AI der skal maksimere papirklip-produktion og konverterer hele Jorden til papirklip-fabrikker.
2. Tab af kontrol. En ASI ville per definition være klogere end os. Det rejser spørgsmålet om vi overhovedet kan kontrollere noget der er fundamentalt mere intelligent end os. Det er som at spørge om en mus kan kontrollere et menneske.
3. Magtkoncentration. Hvis én organisation eller nation udvikler ASI først, giver det potentielt ubegrænset magt. Det geopolitiske spil om AI-dominans er allerede i gang, og ASI ville forstærke det eksponentielt.
4. Eksistentiel risiko. Prominente tænkere som Stephen Hawking, Nick Bostrom og Elon Musk har advaret om at ASI potentielt udgør en eksistentiel risiko for menneskeheden. Ikke nødvendigvis fordi den er ondsindet, men fordi dens mål måske ikke er kompatible med menneskers overlevelse.

Er ASI overhovedet muligt?

Eksperterne er dybt uenige:

1. Ja, og det kommer snart. Nogle, som Ray Kurzweil og dele af OpenAI, mener at eksponentielle fremskridt i beregningskraft og AI-forskning gør ASI uundgåeligt, muligvis inden for dette århundrede.
2. Ja, men langt ude. Mange AI-forskere mener det er teoretisk muligt men at vi mangler fundamentale gennembrud der kan ligge årtier eller århundreder ude i fremtiden.
3. Måske aldrig. Nogle filosoffer og neuroforskere argumenterer for at der er noget ved menneskelig bevidsthed og intelligens som ikke kan reproduceres i silicium. Uanset beregningskraft.