Menneskelig forbehold: Men kun hvis du kan se, hvad maskinerne allerede gør

Om skygge-AI, governance og hvorfor synlighed er vigtigere end alt andet.

En af de mest markante idéer i Bill Gates’ nylige essay er "menneskeligt forbeholdte" job. Roller, som vi af bevidste årsager bør lade forblive på menneskehænder. Pleje. Undervisning. Arbejde, der ikke blot er kognitivt, men uerstatteligt menneskeligt. Hans egen far havde Alzheimers, og den pleje, han modtog i slutningen af sit liv, var ifølge Gates noget, som "ingen robot kunne eller burde have udført."

Jeg finder dette oprigtigt overbevisende. Men Gates stiller det rigtige spørgsmål og stopper lige før det vigtigste svar.

Han spørger, hvordan vi sikrer, at AI ikke erstatter mennesker uden en plan. Han foreslår en "token-skat" på AI for at finansiere overgangen. Han efterlyser en offentlig debat. Det er fornuftige idéer. Men de forudsætter alle, at de organisationer, der træffer disse beslutninger – regeringer, virksomheder, tilsynsmyndigheder – rent faktisk ved, hvad deres AI allerede foretager sig.

"Man kan ikke forbeholde menneskelig dømmekraft til de vigtige beslutninger, hvis man ikke ved, hvor maskinerne allerede har taget over." Mikael Munck, CEO & Founder | 2021.AI

Det gør de fleste ikke.

Geoffrey Hinton påpegede præcis dette problem, da han forlod Google i 2023. Hans bekymring handlede ikke primært om robotter – det handlede om ondsindede aktører. "Det er svært at se, hvordan man kan forhindre ondsindede aktører i at bruge det til dårlige formål," sagde han. Han var også bekymret for en verden, hvor folk "ikke længere vil kunne vide, hvad der er sandt." Begge disse risici bliver markant værre, når organisationer ikke har noget indblik i, hvilken AI der allerede kører internt. Man kan ikke forsvare sig mod misbrug, man ikke kan se.

Jeg har denne samtale igen og igen. Jeg sætter mig ned med en CIO eller en compliance-ansvarlig i en offentlig organisation og spørger, hvor mange AI-værktøjer deres medarbejdere bruger lige nu. Svaret er næsten altid et tal, de føler sig sikre på. Derefter viser vi dem, hvad der rent faktisk kører. Det reelle tal er typisk tre til fem gange højere. Forbrugerrettede værktøjer. Personlige konti. Modeller, der aldrig er blevet godkendt, aldrig vurderet, aldrig set af it eller juridisk afdeling. Følsomme data, der flyder ind i systemer, som ingen har givet tilladelse til.

Dette er ikke en fremtidig risiko. Det sker lige nu, i organisationer, der tror, de har styr på deres AI.

Mustafa Suleyman kalder dette "spredningsproblemet" i The Coming Wave – ikke den dramatiske, synlige forstyrrelse, men den stille udbredelse af kraftfuld teknologi gennem institutioner, der ikke har nogen rammer for at håndtere den. Kai-Fu Lee beskrev den samme spænding som et kapløb mellem kapacitet og governance. Lige nu vinder kapaciteten med en betydelig margin.

Så når Gates taler om menneskeligt forbeholdte job, tænker jeg på, hvad det rent faktisk kræver at beskytte dem. Ikke bare politikker. Ikke bare en skat på tokens. Men den operationelle evne til at se, hvilke AI-systemer der kører i din organisation, på hvilke data, med hvilken tilladelse og med hvilken menneskelig overvågning.

Det er det, vi har bygget GRACE AI Security til at løse. AI Auto Registry registrerer og logger automatisk alle AI-anvendelser, systemer og modeller på tværs af en organisation. Gatekeeper Agent finder skygge-AI-værktøjer, som it-afdelingen aldrig har set. Chat Guardian opsnapper følsomme data, før de når en model. AI Gateway kontrollerer, hvilken AI medarbejderne rent faktisk har adgang til.

Ikke fordi vi ønsker at begrænse AI. Tværtimod. Grunden til, at medarbejdere griber til ikke-godkendte værktøjer, er som regel enkel: den godkendte vej er for langsom eller for kompliceret. Gør godkendt AI hurtig og tilgængelig, så vil de fleste bruge den. Det er den egentlige løsning. Governance, der virker ved at gøre den rigtige vej til den nemme vej.

Gates har ret i, at vi har brug for en plan. Men en plan starter med synlighed. Og lige nu forsøger de fleste organisationer at styre noget, de ikke fuldt ud kan se.

‍