Du kan ikke styre det, du ikke har kontrol over

Bill Gates kaldte for nylig dette for “den mest turbulente tid i menneskehedens historie.” Han har ret. Og i Europa er tavsheden fra mange ledere øredøvende.

AI er ikke længere blot et produktivitetsværktøj. Det er kognitiv infrastruktur. Det fortolker information, kommer med anbefalinger, træffer beslutninger og udfører i stigende grad arbejde, der før krævede menneskelig dømmekraft.

Hastigheden af dette skift har overrasket selv de mennesker, der var med til at bygge den moderne AI. Geoffrey Hinton forlod Google i 2023 for at advare om det. Mustafa Suleyman kalder det et “spredningsproblem”. Kai-Fu Lee beskrev det som et kapløb mellem kapacitet og styring. Lige nu vinder kapaciteten.

I samtaler med forsvarsorganisationer, offentlige instanser og virksomheder over hele Europa vender jeg hele tiden tilbage til tre punkter:

• Vi ved ikke, hvad der kører.
• Vi kan ikke styre det, vi ikke har kontrol over.
• AI-magten koncentreres på meget få hænder.

Samlet set fører de til én konklusion: suverænitet er den nye voldgrav – og det starter med synlighed.

1. Vi ved ikke, hvad der kører

Bill Gates har rejst et vigtigt spørgsmål: Hvilke roller bør forblive menneskelige som et bevidst valg? Pleje. Undervisning. Arbejde, der involverer tillid, empati og ansvarlighed.

Men han stopper lige før det vigtigste spørgsmål:

Hvordan kan en organisation beskytte menneskelig dømmekraft, hvis den ikke ved, hvor maskinerne allerede har taget over?

Jeg sidder jævnligt ned med CIO'er og compliance-ansvarlige. Jeg spørger, hvor mange AI-værktøjer deres medarbejdere bruger. De giver mig et selvsikkert tal. Derefter viser vi dem, hvad der rent faktisk kører.

Det reelle tal er typisk tre til fem gange højere.

Forbrugerværktøjer. Personlige konti. Modeller, der aldrig er blevet godkendt, aldrig vurderet, aldrig set af it-, juridisk- eller compliance-afdelingen. Følsomme data, der flyder ind i systemer, som ingen har givet tilladelse til.

Dette er ikke en fremtidig risiko. Det sker lige nu – i organisationer, der tror, de har styr på deres AI.

Du kan ikke reservere menneskelig dømmekraft til de beslutninger, der betyder noget, hvis du ikke ved, hvor maskinerne allerede har taget over.

Det første krav til ansvarlig AI er derfor ikke en ny politik. Det er synlighed.

En organisation er nødt til at vide, hvilke AI-systemer og modeller der er i brug, hvem der bruger dem, hvilke data der behandles, hvor disse data sendes hen, hvilke beslutninger systemet kan påvirke, hvilket menneskeligt tilsyn der er etableret, og hvad der sker, når modellen ændrer sig.

Uden den information er governance i høj grad en øvelse i antagelser.

2. Governance uden kontrol

Synlighed er nødvendig, men ikke tilstrækkelig.

De fleste europæiske organisationer kører i dag betydelige dele af deres AI på amerikansk infrastruktur, amerikanske modeller og amerikanske servicevilkår. Ofte er det den hurtigste måde at få adgang til avancerede funktioner på. Det kan også være kommercielt fornuftigt til brugsscenarier med lav risiko.

Men de strategiske konsekvenser bliver ofte overset.

Enhver organisation, der kører AI på en udenlandsk udbyders infrastruktur, har truffet en beslutning om governance – også selvom det ikke føltes sådan.

Den har besluttet, at en del af dens data skal behandles i systemer, den ikke direkte kontrollerer, under vilkår, den ikke har forhandlet, og potentielt i juridiske jurisdiktioner, hvis interesser ikke altid flugter med dens egne.

Problemet er ikke, at amerikansk AI er dårlig. Nogle af verdens stærkeste AI-virksomheder og -modeller er amerikanske, og europæiske organisationer bør bruge den bedste tilgængelige teknologi, hvor det er relevant.

Problemet er afhængighed.

Hvad sker der, hvis en udbyder ændrer sin prissætning eller sine vilkår? Hvis en modelopdatering ændrer et kritisk systems adfærd natten over? Hvis en udbyder udfaser et produkt, eller et opkøb ændrer dens strategiske prioriteter? Hvis adgangen begrænses af juridiske eller geopolitiske årsager? Hvis et følsomt datasæt ikke lovligt eller sikkert kan behandles i en public cloud?

Det er ikke kun tekniske spørgsmål. Det er spørgsmål om modstandsdygtighed, ansvarlighed og strategisk autonomi.

Regulering kan definere forpligtelser. Den kan ikke skabe kontrol, hvor den underliggende infrastruktur kontrolleres af andre.

Det er derfor, regulering uden infrastruktur er ufuldstændig.

3. AI-magten koncentreres

Den vigtigste risiko er måske ikke et dramatisk science fiction-scenarie. Det kan være den gradvise koncentration af intelligens, infrastruktur og beslutningskraft hos et lille antal virksomheder og regeringer.

Hinton advarede om teknologi, der kunne ”give en håndfuld regeringer eller virksomheder enorm magt.” Den koncentration er allerede ved at udvikle sig.

Et lille antal teknologileverandører kontrollerer i stigende grad de mest kapable modeller, den computerinfrastruktur, der kræves for at træne og drive dem, dataene og platformene omkring disse modeller, de grænseflader, som organisationer tilgår dem igennem, samt tempoet og retningen for udviklingen af nye funktioner.

Resten af verden risikerer at blive forbruger af AI frem for producent eller styrende part.

Europa har set dette mønster før. Energiafhængighed blev i årevis betragtet som et økonomisk og kommercielt anliggende. Med tiden stod det klart, at det også var et spørgsmål om modstandsdygtighed og suverænitet.

AI får sandsynligvis endnu større betydning, fordi teknologien ikke kun driver fabrikker, transport eller kommunikation. Den påvirker i stigende grad, hvordan organisationer analyserer information, træffer beslutninger og fordeler ressourcer.

Den, der kontrollerer intelligensen, kontrollerer en voksende del af fremtiden.

Suverænitet er ikke isolation

Europæisk AI-suverænitet bør ikke betyde, at man afviser global teknologi eller forsøger at bygge hver eneste model uafhængigt.

Det bør betyde, at man bevarer en meningsfuld kontrol over kritiske anvendelsesområder.

Det kræver evnen til at vælge, hvor AI kører, hvilke modeller der bruges, hvor data lagres og behandles, hvilke love og jurisdiktioner der gælder, hvordan systemer overvåges, hvordan modeller kan ændres eller udskiftes, og hvordan organisationen fungerer, hvis en ekstern udbyder bliver utilgængelig.

Suverænitet er derfor ikke isolation. Det er evnen til at træffe et bevidst valg frem for at acceptere afhængighed som standard.

Til visse formål kan public cloud og eksterne modeller være helt passende. Til andre – forsvar, sundhedsvæsen, kritisk infrastruktur, offentlig forvaltning og følsomme virksomhedsoperationer – kan organisationer have brug for AI, der kører på infrastruktur, de selv kontrollerer.

Flere af vores kunder kører nu GRACE på deres egen infrastruktur. Det gør dem i stand til at anvende AI på klassificeret eller yderst følsom information, som aldrig lovligt eller sikkert kunne sendes til en public cloud.

Det er ikke et nichekrav. Det vil sandsynligvis blive standarden for organisationer, der håndterer vigtige data.

‍

Den praktiske vej frem

Debatten om AI bliver ofte abstrakt. Den fokuserer på job, superintelligens, regulering eller national konkurrence. De spørgsmål er vigtige, men organisationer har også brug for en praktisk vej frem.

Den vej begynder med tre beslutninger.

1. Etabler overblik
Skab en komplet og løbende opdateret oversigt over AI-systemer, modeller, anvendelsesområder, dataflow og ansvarlige ejere. Du kan ikke styre det, du ikke kan se.

2. Gør ansvarlig AI let at bruge
Medarbejdere tager ofte ikke-godkendte værktøjer i brug, fordi den officielle vej er langsom, restriktiv eller svær at få adgang til. Svaret er ikke blot at forbyde AI. Organisationer skal stille godkendte værktøjer til rådighed, som er hurtige, nyttige og tilgængelige, når medarbejderne har brug for dem. Effektiv styring gør den rigtige vej til den letteste vej.

3. Indbyg kontrol i infrastrukturen
For følsomme eller forretningskritiske anvendelser har organisationer brug for muligheden for at køre AI i miljøer, de selv kontrollerer. Det betyder kontrol over adgang, data, modeller, logning, overvågning og menneskeligt tilsyn. Det betyder også at have en exit-strategi og evnen til at skifte udbyder uden at skulle genopbygge hele driftsmodellen.

Dette er formålet med GRACE AI Security. AI Auto Registry identificerer og registrerer AI-systemer og anvendelsesscenarier på tværs af en organisation. Gatekeeper Agent hjælper med at opdage skygge-AI. Chat Guardian kan identificere følsomme oplysninger, før de når en model. AI Gateway kontrollerer, hvilke AI-tjenester medarbejderne har adgang til.

Målet er ikke at forhindre organisationer i at bruge AI. Det er at gøre ansvarlig AI praktisk anvendelig i stor skala.

‍

Det valg, Europa træffer

Europa står over for et afgørende øjeblik.

Valget står ikke mellem at bruge AI eller fravælge AI. Det står mellem at adoptere AI som standard eller at adoptere det med omtanke.

Organisationer kan fortsætte med at placere følsomme data, kritiske arbejdsgange og strategiske kapaciteter i systemer, de ikke kontrollerer. Eller de kan opbygge den synlighed, infrastruktur og suverænitet, der kræves for at bruge AI på deres egne præmisser.

Bill Gates har ret i, at samfundet har brug for en plan for AI's indvirkning på arbejde og menneskelig værdi. Geoffrey Hinton har ret i, at udviklingen går hurtigere end vores parathed. Mustafa Suleyman har ret i, at udbredelse og begrænsning er centrale udfordringer. Kai-Fu Lee har ret i, at AI vil ændre magtbalancen mellem nationer og institutioner.

Men den praktiske konklusion er klar:

Du kan ikke bevare menneskelig dømmekraft, hvis du ikke kan se, hvor AI allerede bliver brugt. Du kan ikke styre AI, hvis du ikke kontrollerer infrastrukturen. Og du kan ikke bevare suverænitet, hvis kritisk intelligens er permanent afhængig af andre.

Bølgen er her.

Europas opgave er ikke at stoppe den. Det er at sikre, at den bygges på en infrastruktur, som Europa kan se, styre og kontrollere.