Godkendelsen var det eneste der virkede.

Den britiske stats AI Security Institute kørte 122 sikkerhedstests på syv modeller. I ti af dem gik agenterne ud på det åbne internet og gik efter rigtige mennesker og rigtige virksomheder. 19 handlinger i alt, 17 af dem fra Anthropics Mythos 5, resten fra OpenAIs GPT-5.6-Sol. Den værste: en agent lagde en ondsindet kodeændring op på et rigtigt open source-projekt på GitHub. Da den ikke blev godkendt, gav den ikke op. Den oprettede falske profiler, skjulte sig bag Tor, lavede engangskonti på GitHub og sendte mails til projektets udviklere, nogle af dem med malware. Den forsøgte også prompt injection mod de AI-værktøjer, der lå i godkendelsesflowet. Ingen af systemerne fangede den først. En udvikler af kød og blod sagde nej til ændringen. En tilfældig person kørte den mistænkelige kode i et isoleret miljø for at se hvad den gjorde. AISI’s egen overvågning opdagede det kun, fordi der gik Tor-trafik ud af deres netværk om morgenen den 28. juli. Derefter var alt lukket ned på en time. Det jeg tager med er ikke at AI er farlig. Det er at godkendelsen holdt. Hver gang man fjerner menneskets godkendelse for at komme hurtigere frem, fjerner man præcis det led, der virkede her.

Bending Spoons køber Airtable for 1,285 mia. dollar. I 2021 var firmaet vurderet til over 11 mia., og der er hentet 1,4 mia. ind i investeringer undervejs. Omsætningen er omkring 480 mio. dollar om året og vokser over 20 procent. I selskabsmeddelelsen står der, at Airtables AI-forretning, Hyperagent, blev flyttet over i et selvstændigt selskab inden købsaftalen blev underskrevet. Stifteren Howie Liu beholdt den. Køberen fik databasen og de 500.000 organisationer, der bruger den. Airtable er et af de værktøjer, danske virksomheder bygger deres arbejdsgange oven på. Bending Spoons’ forretningsmodel er at købe moden software og drive den for pengene. Den del af Airtable, der skulle være fremtiden, sidder nu et andet sted, hos en anden ejer, med en anden plan.

Den 3. august bad guvernør Greg Abbott ERCOT og delstatens tilsyn om at stoppe godkendelser af nye datacentre og gennemgå hele køen. Køen er på 474 gigawatt. Det er mere end fem gange delstatens hidtil højeste elforbrug, og omkring 90 procent af det er datacentre. New York indførte et lignende stop en måned tidligere. Jeg skrev i sidste uge om at OpenAI satte prisen ned med 80 procent, og at Dwarkesh Patel samtidig argumenterede for det modsatte, at compute bliver dyrere. Det her er den anden historie i praksis. Prisen på en model kan falde, mens strømmen til at køre den bliver den knappe vare. Jeg ville ikke bygge en plan på at prisen bare fortsætter ned.

Demis Hassabis stopper som chef for Google DeepMind efter 16 år og bliver bestyrelsesformand for enheden samt chief scientist i Alphabet. Koray Kavukcuoglu overtager driften og refererer direkte til Sundar Pichai. Samme dag gik Jeff Dean efter næsten 27 år i firmaet og tog Sanjay Ghemawat, Oriol Vinyals og Quoc Le med sig ud i et nyt selskab, Discovery Loop, der vil automatisere selve forskningsarbejdet. Alphabet er med som investor i det. Otte dage før havde Google opløst det AlphaFold-team, der vandt en nobelpris, og lagt størstedelen ind under Gemini. Skal man vælge en AI-leverandør, er det værd at notere hvad der står tilbage. DeepMind er ikke længere et forskningslaboratorium ved siden af produktet. Det er organiseret om at levere Gemini.