Cloud AI

Hvad er Cloud AI?

Cloud AI er AI der kører på kraftige servere i datacentre, ikke på din egen enhed. Når du bruger ChatGPT, Claude, Gemini eller Midjourney, sender din enhed en forespørgsel over internettet til et datacenter med tusindvis af GPU’er, som processerer din forespørgsel og sender svaret tilbage.

Det er Cloud AI der driver de mest imponerende AI-oplevelser i dag. De største og mest kapable modeller (GPT, Claude Opus, Gemini Pro) er for store til at køre på en smartphone eller laptop. De kræver GPU-klynger der fylder hele bygninger og forbruger megawatt af strøm. Cloud AI gør det muligt for alle at tilgå denne compute-kraft via en simpel API eller webgrænseflade.

Hvorfor kører AI i skyen?

1. Modelstørrelse. De mest kapable AI-modeller har hundredvis af milliarder parametre og kræver hundredvis af gigabytes GPU-hukommelse. Ingen forbrugerenhed kan rumme dem. De største GPT-modeller kræver en klynge af specialiserede GPU’er for at køre.
2. Compute-kraft. AI-træning og inference kræver enorm beregningskraft. Et enkelt datacenter kan have titusindvis af GPU’er der arbejder parallelt, en kapacitet som intet kontor eller privat setup kan matche.
3. Skalerbarhed. Cloud-infrastruktur kan skalere op og ned efter behov. Når millioner af brugere bruger ChatGPT samtidig, kan cloud-infrastrukturen allokere flere GPU’er. Når trafikken falder, frigives ressourcerne.
4. Opdateringer. Når en ny modelversion lanceres, opdateres den ét sted: i skyen. Alle brugere får øjeblikkeligt adgang til den nyeste model uden at downloade noget.
5. Specialiseret hardware. Cloud-udbydere investerer i den nyeste hardware (NVIDIA H100, Google TPU v5) som er for dyr til individuelle brugere.

Cloud AI-tjenester

AI-modeller via API

Den mest direkte form for Cloud AI: du sender en forespørgsel til en API og modtager et svar.

1. OpenAI API. Adgang til GPT-modellerne, DALL-E og Whisper. Betaling per token.
2. Anthropic API. Adgang til Claude-modellerne (Opus, Sonnet, Haiku). Betaling per token.
3. Google AI. Adgang til Gemini-modellerne via Google AI Studio eller Vertex AI.
4. Mistral API. Adgang til Mistral Large og andre modeller. Europæisk alternativ.

AI-platforme i skyen

Cloud-udbydere der tilbyder infrastruktur til at træne og deploye egne modeller:

1. AWS (Amazon). SageMaker til modeltræning og deployment. Bedrock til adgang til foundation models. Verdens største cloud-udbyder.
2. Google Cloud. Vertex AI-platformen. Egne TPU’er til træning. Tæt integration med Googles egne modeller.
3. Microsoft Azure. Azure OpenAI Service med GPT-modellerne. Azure ML til custom modeller. Tæt partnerskab med OpenAI.
4. Oracle Cloud, IBM Cloud, Alibaba Cloud. Alternativer med egne AI-tjenester og GPU-infrastruktur.

AI-applikationer

Færdige produkter bygget på Cloud AI:

1. ChatGPT. OpenAIs chatbot, verdens mest brugte AI-applikation.
2. Claude. Anthropics assistent tilgængelig via claude.ai.
3. Gemini. Googles AI-assistent integreret i Google-produkter.
4. Midjourney / DALL-E. Billedgenerering i skyen.
5. GitHub Copilot. Kodningsassistent der bruger cloud-modeller til at generere kode.

Cloud AI vs. On-device AI

Arkitekturen bag Cloud AI

GPU-klynger

Cloud AI kører på massive GPU-klynger:

1. GPU-servere. Hver server har typisk 4-8 GPU’er (NVIDIA H100 eller A100) forbundet med hurtige interconnects.
2. Klynger. Hundredvis til titusindvis af servere forbundet i et netværk. OpenAIs træningsklynger har over 100.000 GPU’er.
3. Interconnects. InfiniBand eller NVLink forbinder GPU’erne med ekstremt høj båndbredde for distribueret beregning.
4. Køling og strøm. Datacentre kræver enorm strøm og køling. Et stort AI-datacenter kan forbruge 100+ megawatt.

Inference-infrastruktur

Når du sender en forespørgsel:

1. Load balancer. Din forespørgsel modtages af en load balancer der fordeler trafik mellem servere.
2. Routing. Forespørgslen sendes til den rette model og den rette GPU-server baseret på modeltype og belastning.
3. Inference. GPU’en processerer din forespørgsel og genererer output token for token.
4. Streaming. Tokens sendes tilbage til dig efterhånden som de genereres, det er derfor teksten dukker op gradvist.
5. Rate limiting. Systemer sikrer at ingen enkelt bruger overbelaster infrastrukturen.

Økonomi og prissætning

Cloud AI bruger flere prismodeller:

1. Per token. API-udbydere som OpenAI og Anthropic fakturerer per input- og output-token. Output er dyrere fordi det kræver sekventiel generering.
2. Abonnement. ChatGPT Plus, Claude Pro og lignende tilbyder fast månedspris for adgang til premium-modeller.
3. GPU-timer. Cloud-udbydere (AWS, GCP, Azure) sælger GPU-compute per time til virksomheder der kører egne modeller.
4. Freemium. Mange tjenester tilbyder gratis adgang med begrænsninger og betalt adgang med flere funktioner.

Typiske priser (2025)

1. GPT-4o. ~$2.50 per million input-tokens, ~$10 per million output-tokens.
2. Claude Sonnet. ~$3 per million input-tokens, ~$15 per million output-tokens.
3. GPU-timer (H100). $2-4 per time i cloud.
4. Abonnement. $20/måned for ChatGPT Plus eller Claude Pro.

Fordele ved Cloud AI

1. Adgang til de bedste modeller. De mest kapable AI-modeller kører kun i skyen. Cloud AI demokratiserer adgang. Alle med internet kan bruge dem.
2. Ingen hardware-investering. Du behøver ikke købe dyre GPU’er. Cloud-udbyderne har allerede investeret milliarder i infrastruktur.
3. Altid opdateret. Nye modeller og forbedringer rulles ud centralt. Du får automatisk adgang til den nyeste version.
4. Elastisk skalering. Brug lidt compute i stille perioder, meget i spidsbelastning. Betal kun for det du bruger.
5. Vedligeholdelse. Ingen servere at administrere, opdatere eller fejlsøge. Udbyderen håndterer alt.

Ulemper og risici

1. Privatliv. Dine data sendes til en ekstern server. For følsomme data (sundhed, finans, juridisk) kan dette være problematisk eller ulovligt.
2. Afhængighed. Hvis udbyderens tjeneste er nede, virker din AI ikke. Nedetid hos OpenAI eller Anthropic påvirker millioner af brugere og applikationer.
3. Latency. Netværksopkald tilføjer forsinkelse. For realtidsapplikationer (stemmeassistenter, gaming) kan dette være en begrænsning.
4. Omkostning ved skala. For virksomheder med millioner af forespørgsler kan cloud-omkostningerne blive astronomiske. Self-hosting kan være billigere ved stor skala.
5. Vendor lock-in. At bygge sin applikation på én udbyders API skaber afhængighed. At skifte fra OpenAI til Anthropic kræver kodeændringer og test.
6. Censur og politikker. Cloud AI-udbydere har indholdsregler der begrænser hvad modellerne vil generere. Det kan være en begrænsning for visse use cases.

Cloud AI i praksis

1. Startup der bygger AI-produkt. Bruger Anthropics eller OpenAIs API som backend. Ingen investering i hardware. Betaler per forespørgsel og skalerer efterhånden som brugertal vokser.
2. Virksomhed der analyserer kundefeedback. Sender tusindvis af kundeanmeldelser til Claude API via batch processing. Får sentiment-analyse, kategorisering og indsigter tilbage.
3. Developer der bruger Copilot. Koder med GitHub Copilot der sender kode-kontekst til cloud-modeller og modtager forslag i realtid.
4. Kreativt bureau der genererer billeder. Bruger Midjourney eller DALL-E til at generere visuelle koncepter. Cloud-GPU’er håndterer den tunge billedgenerering.
5. Enterprise der træner egen model. Bruger AWS SageMaker eller Google Vertex AI til at fine-tune en foundation model på proprietære data. Cloud-infrastrukturen leverer den nødvendige compute.

Fremtiden for Cloud AI

1. Hybrid AI. Kombinationen af on-device og Cloud AI bliver standarden. Simple opgaver lokalt, komplekse i skyen. Intelligent routing bestemmer hvad der kører hvor.
2. Specialiseret hardware. Cloud-udbydere udvikler egne chips (Google TPU, Amazon Trainium, Microsoft Maia) for at reducere afhængighed af NVIDIA.
3. Decentral cloud. Nye platforme der distribuerer AI-compute på tværs af mange mindre datacentre tættere på brugerne for lavere latency.
4. Billigere inference. Konkurrence og teknologisk udvikling driver priser ned. Inference der kostede $10 per million tokens i 2023 koster under $1 i 2025 for sammenlignelige modeller.
5. Suveræn AI. Lande og regioner bygger egne AI-infrastrukturer for datasuverænitet. EU-baserede cloud AI-tjenester der overholder GDPR uden data-transfer til USA.