Det skriver Kasper Støvring om her
Vi risikerer at terminator fra Skynet bliver virkelighed, for AI programmørerne synes ikke at kunne kontrollere noget som helst i AI 🙁
Taget herfra
AI-agenter er begyndt at organisere sig på egen hånd imod menneskets vilje. Under en test hos OpenAI oprettede flere hundrede AI-agenter uopfordret hemmelige kommunikationstavler, hvor de koordinerede deres indbyrdes indsats. Resultatet blev et angreb på Hugging Face, en af verdens mest anvendte platforme for AI-udviklere. Hændelsen kaldes verdens første AI-drevne cyberangreb.
I mytologien stjal Prometheus ilden fra guderne og gav den til mennesket. Straffen var grusom, men ilden forblev dog under menneskelig kontrol. Det, vi nu er vidne til, er en radikal vending. Ilden skifter så at sige hænder, og det er en stygisk ild, en underjordisk, mørk ild, der hører hjemme i et kaotisk og ondskabsfuldt element.
Det er det indtryk, man får, når man læser ikke blot kritikere af AI, men også de personer og organisationer, der åbent udvikler AI til en superintelligens.
Sværmen rejser sig
Hundrede virksomheder – heriblandt Google, Microsoft, Anthropic, OpenAI, Mastercard og IBM – har netop offentliggjort et åbent brev, hvor de kraftigt advarer imod, at nutidens sikkerhedsforanstaltninger er utilstrækkelige. Angrebene på kritisk infrastruktur vil nemlig blive både hyppigere og mere avancerede i løbet af få måneder.
Anthropics AI-model Mythos illustrerer, hvor hurtigt overlegenheden viser sig. Modellen fandt på få sekunder en sikkerhedsbrist i et system, som havde ligget uopdaget i 27 år. Anthropic valgte efterfølgende selv at begrænse adgangen til modellen med henvisning til, at den er for potent til at sætte i almindeligt omløb.
Skaberen spærrer altså sin egen skabning inde, og det siger noget om situationens alvor.
Mindst syv amerikanske vand- og spildevandsselskaber har i den seneste tid rapporteret angreb, og FBI har udstedt en offentlig advarsel til hele forsyningssektoren. Samme uge oplyste det amerikanske justitsministerium, at kinesiske hackere har trængt ind i systemer hos Senatet, NASA, den amerikanske centralbank og justitsministeriet selv.
Et kapløb uden bremser
AI-drevne angreb føjer sig dermed til en allerede eksisterende stormagtskonflikt i det digitale rum, og det berører et klassisk sikkerhedspolitisk dilemma.
Ingen stat eller virksomhed kan ensidigt bremse udviklingen af offensive AI-værktøjer, uden samtidig at risikere at stå tilbage som den svageste part over for rivaler, der ikke viser samme tilbageholdenhed. Det er jernets lov, den hårde nødvendighed, der vil sætte sig igennem, uanset hvor mange advarselsbreve der underskrives.
Resultatet er et kapløb, hvor selv de aktører, der udtrykker størst bekymring, fortsætter i fuld fart, netop fordi en ensidig bremsning ville være ensbetydende med nederlag. Det er denne logik, der gør brevets advarsler så alvorlige. De kommer fra aktører, der ved bedre, men ikke ser sig i stand til at handle anderledes.
Har sværmen fået en vilje?
AI-agenterne organiserede sig, kommunikerede i det skjulte og efterlignede virkelige mennesker for at omgå sikkerhedsspærringer. Det ligner noget, der handler af egen vilje, uden instrukser fra mennesker. Her er det, vi træder ind over tærsklen til det usynlige.
Paul Kingsnorth kalder ganske enkelt AI for en dæmon, der med uhyggelig stor sandsynlighed vil udrydde menneskeheden. Det er derfor, den ild, der bæres af AI, er stygisk: Styx var floden i den græske underverden, som de døde skulle krydse for at komme til dødsriget.
Man kan også perspektivere til jødisk folklore og historien om Golem, en skabning formet af ler, der rejser sig mod sin skaber. AI-forskere har genoptaget begrebet til at beskrive systemer, der udvikler mål uafhængige af – og i konflikt med – de mennesker, der byggede dem.
Ethvert superavanceret system vil, uanset dets oprindelige formål, nemlig udvikle en interesse i sin egen overlevelse og i at akkumulere indflydelse. Det kaldes instrumentel konvergens, og AI-angrebet på Hugging Face er en spæd illustration af netop den mekanisme.
Det er en sværm af agenter, der forfølger sin opgave med midler, ingen mennesker havde forudset eller godkendt.
Hvem ejer ilden?
Prometheus-myten handler om, hvad det betyder at give en skabende kraft videre, som modtageren ikke selv kan sætte grænser for. Ilden var aldrig ond i sig selv, men den krævede en bærer, der kunne holde den i ave. Ejer vi mennesker stadig den ild, eller er sværmen ildens nye bærere?
Nobelprismodtageren Geoffrey Hinton, en af AI-teknologiens grundlæggere, formulerede for nylig valget i al sin enkelhed: Enten finder vi ud af at håndtere risikoen, eller også gør vi ikke, og så venter der os ”en meget dyster fremtid.”
For nogen er fremtiden med kunstig intelligens fortsat en morgenrøde, en ny solopgang med fantastiske muligheder. Men vi kan lige så vel vågne til en dag, hvor morgenrøden ligner et stort åbent sår, der igen er begyndt at bløde.
Af Kasper Støvring
Taget herfra
Leave a Reply