“Topforsker forlader Google og advarer mod kunstig intelligens”

Det skriver Hans Rustad her

Taget herfra

En af verdens førende eksperter i kunstig intelligens (AI), Geoffrey Hinton, frygter, at han har været med til at udvikle teknologi, der i sidste ende kan true menneskeheden. Han er blot den seneste i rækken af ​​forskere, der står frem og advarer mod en udvikling, der kan vise sig fatal. – Det er svært at se, hvordan man forhindrer onde mennesker i at bruge AI til onde formål, siger Hinton

Professor Geoffrey Hinton (75) har i en årrække været ansat både ved University of Toronto og hos Google.

Nu har han sagt op fra sin stilling hos Google for at kunne tale mere åbent om de risici, der er forbundet med den teknologi, han har været med til at udvikle: kunstig intelligens.

– Jeg synes ikke, de skal skalere det her mere op, før de har forstået, hvordan de kan kontrollere det, siger han i et interview med The New York Times.

Til BBC siger han, at såkaldte tekstrobotter snart kan blive mere intelligente end mennesker.

Han peger på flere risikofaktorer: spredning af desinformation, tab af job, nye “autonome” våben baseret på AI og aktører, der bruger teknologien til ondsindede formål.

På længere sigt frygter han, at kunstig intelligens kan udvikle uventet adfærd og udgøre en trussel mod menneskeheden.

Der har været flere bekymringsmeldinger fra forskningsmiljøerne, og man bemærker, at det er dem med længst erfaring og størst kompetence, der slår alarm.

Efter San Francisco-opstarten OpenAI udgav en ny version af ChatGPT i marts, underskrev mere end 1.000 teknologiledere og forskere et åbent brev, der opfordrede til et seks måneders moratorium for udviklingen af ​​nye systemer, fordi A.I. teknologier udgør “dybe risici for samfundet og menneskeheden.”

Så kom en endnu mere eksklusiv gruppe på banen og advarede.

Flere dage senere udgav 19 nuværende og tidligere ledere af Association for the Advancement of Artificial Intelligence, et 40 år gammelt akademisk samfund, deres eget brev, hvor de advarede om risikoen for A.I. Denne gruppe omfattede Eric Horvitz, chief scientific officer hos Microsoft, som har implementeret OpenAIs teknologi på tværs af en lang række produkter, herunder sin Bing-søgemaskine.

Hinton har ikke underskrevet nogen andragender. Han sagde op i sidste måned. Sidste torsdag talte han med lederen af ​​Googles moderselskab, Alphabet, Sundar Pichai.

Hinton er en AI-pioner. Hans karriere begyndte på University of Edinburgh i 1972.

Dr. Hinton, en 75-årig britisk udstationeret, er en livslang akademiker, hvis karriere var drevet af hans personlige overbevisning om udviklingen og brugen af ​​A.I. I 1972, som kandidatstuderende ved University of Edinburgh, omfavnede Dr. Hinton en idé kaldet et neuralt netværk. Et neuralt netværk er et matematisk system, der lærer færdigheder ved at analysere data. På det tidspunkt troede få forskere på ideen. Men det blev hans livsværk.

I 80’erne blev han ansat på Carnegie Mellon University i USA. Men Hinton nægtede at acceptere finansiering fra Pentagon og rejste til Canada. Han er stærkt imod brugen af ​​robotter på slagmarken.

Det var i 2012, at gennembruddet kom:

I 2012 byggede Dr. Hinton og to af hans elever i Toronto, Ilya Sutskever og Alex Krishevsky, et neuralt netværk, der kunne analysere tusindvis af fotos og lære sig selv at identificere almindelige genstande, såsom blomster, hunde og biler.

Når forskere advarer om farerne ved ureguleret kunstig intelligens, er det fordi kapløbet mellem Microsoft og Google driver udviklingen. Den tilbageholdenhed, du tidligere har oplevet, er væk. Nu er der kamp om at opnå dominans.

Indtil sidste år, sagde han, fungerede Google som en “korrekt forvalter” for teknologien, omhyggelig med ikke at frigive noget, der kunne forårsage skade. Men nu hvor Microsoft har udvidet sin Bing-søgemaskine med en chatbot – som udfordrer Googles kerneforretning – er Google i gang med at implementere den samme slags teknologi. Teknikgiganterne er låst i en konkurrence, som måske er umulig at stoppe, sagde Dr. Hinton.

‘The Godfather of A.I.’ Leaves Google and Warns of Danger Ahead
For half a century, Geoffrey Hinton nurtured the technology at the heart of chatbots like ChatGPT. Now he worries it will cause serious harm.

Taget herfra