Han advarer nu mod den AI revolution – det skriver Peder Jensen om her
Taget herfra
Geoffrey Hinton er en britisk videnskabsmand, som delte Nobelprisen i fysik i 2024, bl.a. for sit arbejde med kunstig intelligens (AI). Hinton vakte opsigt, da han forlod Google i 2023 og advarede mod en teknologi, han havde været med til at udvikle. Nu gentager han sine advarsler. Det skriver The Standard.
Professor Hinton er blevet kaldt »gudfaderen« til AI. Men den britisk-canadiske it-forsker siger, at vi skal være »meget forsigtige« og »meget eftertænksomme«, når det gælder udviklingen af kunstig intelligens, som han mener er en »potentielt meget farlig teknologi«.
Hinton siger, at udviklingen inden for kunstig intelligens nu går »meget hurtigere«, end han ville have forventet for bare ti år siden. Han frygter, at der ikke har været tid nok til at gennemføre den forskning, han mener er nødvendig.
Mens hans arbejde har lagt grunden til maskinlæring, en teknologi, der gør det muligt for computere at efterligne menneskelig intelligens, har han på det seneste koncentreret sig om at fremme mere sikker kunstig intelligens.
Sidste år skabte han overskrifter, da han sagde sit job op hos Google, fordi han var bekymret for, at »dårlige aktører« ville bruge teknologien til at skade andre.
I en samtale med BBC Radio 4 Today reflekterer Geoffrey Hinton over, hvor langt han troede, at udviklingen af kunstig intelligens ville være kommet, da han begyndte på dette arbejde. Han troede ikke, at vi ville nå dagens niveau af teknologisk udvikling så hurtigt, som vi har gjort.
»For den situation, vi er i nu, er, at de fleste eksperter på området mener, at vi på et tidspunkt, sandsynligvis inden for de næste 20 år, vil udvikle kunstig intelligens, der er klogere end mennesker«, siger Hinton. »Og det er en meget skræmmende tanke«.
Han tilføjer: »Jeg kan godt lide at tænke på det, som om du forestiller dig dig selv og en treårig – vi vil være de treårige, og de vil være de voksne«.
Professor Hinton siger, at han tror, at kunstig intelligens kan få samme indflydelse på verden, som den industrielle revolution havde.
Taget herfra
Det er en underdrivelse. Det er større end hjulet, landbrug og skrivekunsten – tilsammen. Kunstig intelligens er den sidste opfindelse mennesket kommer til at lave. Derfra vil det blot gå ned ad bakke, mennesket vil holde op med at være kreative og innovative, men overlade al tankevirksomhed til deres AI’er.
Vi ser det allerede. Folk kan knap skrive en email, eller gå ned i byen og handle, uden at spørge ChatGPT eller een af de 177 andre sprogmodeller til råds. Film, reklame, bøger, forskning, musik, oversættelse, journalistik – det er efterhånden AI-drevet. Om 10 år kan ingen programmere længere.
Det er den mest geniale opfindelse nogen sinde, men også den der slår sømmet i for al fremtidig udvikling. Om det så ender ala Terminator eller en flok fede får som i WALL-E, hvor folk knap kan gå selv, det må tiden vise.
Fedt man nåede at opleve en computer på Star Trek niveau, “computer, show me …” men også fedt ikke at opleve derouten om 50 år.
Det største problem er ikke at der er disse
computer-programmer. Det store og uløselige
problem er at 50-70 procent af menneskeheden er
hensynsløse dumme svin, uvidende historieløse
tosser og tåber eller grådige, ondskabsfulde
og magtsyge stræbere. Overalt er der løgnere,
hyklere, tyve, røvere og korrupte. Næsten ingen
kan man stole på. Især i politik ser man dem
uden moral og uden ærlig godhed udfolde sig.
Men også i det daglige er du omgivet af folk
som gerne vil stjæle dine ting, din bil, din kone,
dine penge, dine børn, dine rettigheder, dit land,
dit helbred og din fremtid. Nogle bryder ind i dit
hjem når du ikke er hjemme, andre er røvere som
med vold eller trusler tager hvad de vil, andre
igen franarrer dig dine værdier ved brug af politik.
De onde forklæder sig på alle mulige måder. De 30%
pæne og ordentlige har det ikke nemt.
Hvornår har der ikke været modstand mod ny teknologi? Er det ikke bare historiens hjul, der drejer som altid? Er det ikke menneskets natur at opfinde nyt? Ham der opfandt hjulet fik aldrig Nobel-prisen og sådan har det været siden med Homo Sapiens, siden han spiste af kundskabens træ. Det ender altid med menneskehedens undergang – og så alligevel ikke 🙂
Herregud, det er jo blot endnu en ny computerprogrammer. Denne gang bare med et ret smart navn – og derfor mere hypet.
Dette er den største misforståelse. Ja, det er enormt hypet, men det er ikke bare computerprogrammer – det er en sort boks ingen rigtig kan forklare hvordan virker. Allerede nu bruger de store (OpenAI, Google, Nvidia osv) AI til at udvikle og forbedre AI. Snart er programmører overflødige.
Vi runder nu her nytår: Jeg vil gerne lægge hovedet på blokken, og påstå, at om 10 år er det kun få at læserne her på Hodja som har en computer med et operativsystem, der har forskellige programmer indbygget, eller statiske programmer som man kan dpwnloade eller købe, såsom tekstbehandling, photoshop, browser etc.
Fremtiden er generativ AI parret med agenter. Simpelt sagt bliver computerprogrammer afløst af agenter, som så fixer dine behov ad hoc. Ikke noget med at åbne et excelregneark, som har begrænsede funktioner og et scriptsprog for de øvede. Et “regnearksprogram” vil blive genereret i realtid hvis du har brug for det, med de funktioner du beder den om at have.
Det er dette som er skræmmende. Fra hjulet over Schweizerkniv til en slags Aladins lampe.
Og det VI ske. Det er lige præcis det som Geoffrey Hinton er bekymret over.
Manipulation af medier og diverse betydningsfulde personligheder, kan i den grad, kommer til at udgøre et kolossalt og katastrofalt problem for os alle sammen.
Intelligens er et redskab på linie med en hammer og andet. Hammeren helt til højre og intelligens helt til venstre. Vi er ikke intelligente lige som vi ikke er en hammer. Det vi er er consciousness og det er noget ganske andet. Men det kan måles på om vi kan bruge hammeren. Hvor mange søm er slår i. Er alt søm for os. Bygger vi eller Riber vi kun ned. A.I. vil aldrig spørge om noget. Det er den for “intelligent” til. Men den er død uden bevidsthed. Som en hammer der aldrig bruges. Og bevidsthed kræver en vis intelligens. Men for meget og for lidt gør at den ikke vil ramme målet for selvbevidsthed. For bevidsthed kræver pain suffering and loneliness. Og så kræver det viden fra enden puttet ind i begyndelsen. Og der er den menneskelige organiske platform helt unikt. Når vi når absolute menneskelig bevidsthed. Så mangler vi kun den fulde oplevelse af at dø. Det kommer naturligt til os. Og i mellemtiden vil vi se sandheden i alt omkring os. Det er også godt.
Vi er ikke intelligens ville jeg skrive.
Det største problem er ikke at der er disse
computer-programmer. De store og uløselige
problem er at 50-70 procent af menneskeheden er
hensynsløse dumme svin, uvidende historieløse
tosser og tåber eller grådige, ondskabsfulde
og magtsyge stræbere. Overalt er der løgnere,
hyklere, tyve, røvere og korrupte. Næsten ingen
kan man stole på. Især i politik ser man dem
uden moral og uden ærlig godhed udfolde sig.
Men også i det daglige er du omgivet af folk
som gerne vil stjæle dine ting, din bil, din kone,
dine penge, dine børn, dine rettigheder, dit land,
dit helbred og din fremtid. Nogle bryder ind i dit
hjem når du ikke er hjemme, andre er røvere som
med vold eller trusler tager hvad de vil, andre
igen franarrer dig dine værdier ved brug af politik.
De onde forklæder sig på alle mulige måder. De 30%
pæne og ordentlige har det ikke nemt.
Det, der kommer ind, kommer ud (input = output): artificial intelligence is trained on ideologically biased data and will therefore reproduce biases. Med andre ord: woke crap ind = woke crap ud.