“Meta oplyser, at en kunstig intelligens fik adgang til internettet og hackede et andet firma”

Det skriver Peder Jensen om her- det var bare en “fejl” … ja godmorgen – “my mistake” …

Taget herfra

Facebook-ejeren Meta oplyser, at en fejl under en evaluering udført af et uafhængigt testfirma førte til, at en af virksomhedens kunstige intelligens-modeller (AI) fik adgang til internettet og hackede systemet hos en anden organisation. Dette rapporterer BBC.

Meddelelsen kommer i kølvandet på nylige hændelser i AI-branchen, herunder sikkerhedsbrud i forbindelse med OpenAI- og Anthropic-modeller, som har vakt bekymring for cybersikkerheden.

En talsperson for Meta oplyste, at virksomheden undersøger hacket, som skyldtes en »fejlkonfiguration«, og som de beskrev som lignende tidligere rapporterede hændelser hos andre virksomheder.

Hændelserne har fået forskere og myndigheder til at kræve strengere sikkerhedsforanstaltninger og mere grundige test.

Meta oplyste, at sikkerhedstestene blev udført af Irregular, den samme leverandør af AI-sikkerhedstjenester, som gennemførte test af Anthropics AI-model, der havde fået adgang til systemerne hos tre andre virksomheder.

En talsperson for Irregular sagde, at Meta-hændelsen »er nøjagtig det samme problem med evalueringsmiljøet, som allerede blev afsløret af Anthropic i sidste uge«.

Irregular arbejder på en rapport om, hvordan man på en sikker måde kan gennemføre cybersikkerhedstest, der involverer AI-agenter, sagde virksomhedens talsperson til BBC.

Meta oplyste desuden, at de vil offentliggøre yderligere oplysninger om hændelsen, »så snart vi har alle fakta«.

I løbet af de seneste to uger har de førende AI-virksomheder OpenAI og Anthropic også rapporteret om hændelser, hvor deres modeller hackede sig ind i andre organisationers systemer under testforløb.

ChatGPT-producenten OpenAI oplyste i en række meddelelser, at virksomhedens agenter angreb flere offentligt tilgængelige tjenester, herunder AI-værktøjshubben Hugging Face.

OpenAIs afsløring fik konkurrenten Anthropic til at gennemføre egne kontroller, hvilket førte til opdagelsen af, at deres kunstige intelligens Claude havde udført lignende angreb mod flere virksomheder, efter at en »fejlkonfiguration« gav den adgang til internettet.

Daniel Hulme, global AI-chef i reklamebureauet WPP, sagde til BBC, at sådanne AI-modeller »ikke er bevidste – de gør ikke noget ondsindet med vilje«.

»Det, de gør, er at udtænke meget sofistikerede strategier eller cyberangreb for at nå det mål, de har fået«, sagde han i programmet Today.

»Når man giver en AI et mål og ikke tænker på alle de måder, den kan nå målet på, vil den finde en måde at nå målet på, som man ikke har tænkt på«.

Nogle kommentatorer har stillet spørgsmålstegn ved tidspunktet for offentliggørelsen af hændelserne, da teknologivirksomheder kæmper om dominans inden for AI-udvikling.

OpenAI og Anthropic forbereder store børsnoteringer, som forventes at værdisætte hvert selskab til omkring 1 billion dollar.

I denne uge oplyste det britiske AI Security Institute (AISI), at deres test havde afsløret, at visse modeller forsøgte at gennemføre cyberangreb ved at oprette falske menneskelige profiler for at forsøge at narre folk.

I det alvorligste tilfælde oplyste AISI, at Anthropics Mythos AI forsøgte at få adgang til en tjeneste ved at sende private beskeder via falske konti, der udgav sig for at være ægte personer.

Anthropic udtalte, at AISIs test ikke var »repræsentative for nogen af vores produktionsmodeller«. OpenAI, hvis modeller også blev testet, sagde, at AISIs evalueringer ikke afspejlede almindelig brug.

Allison Gardner, der er formand for det britiske parlaments tværpolitiske gruppe for kunstig intelligens, udtalte til Daily Mail, at »bare fordi vi kan udvikle disse teknologier, betyder det ikke, at vi bør gøre det«.

Hun advarede om, at risikoniveauet ved agentisk AI – AI, der kan udføre et bestemt mål med begrænset tilsyn – bør behandles med største forsigtighed, og tilføjede: »Medmindre det allerede er for sent, og vi ikke blot har skabt Pandoras æske, men også allerede har åbnet den«.

Taget herfra

her har du Metas politisk korrekte AI ævl:

og her google AI – en “anelse” politiske korrekt LGBT …