Den britisk-canadiske computerforsker, der ofte omtales som 'AI's gudfar', har sænket oddsene for, at kunstig intelligens (AI) vil udslette menneskeheden inden for de næste tre årtier, og advarer om, at teknologiens udvikling går 'meget hurtigere' end forventet.
Professor Geoffrey Hinton, der i år modtog Nobelprisen i fysik for sit arbejde inden for AI, vurderer, at der er en '10-20 % chance' for, at AI kan føre til menneskehedens udslettelse inden for de næste 30 år.
Tidligere havde Hinton anslået, at der var en 10 % risiko for, at teknologien kunne udløse en katastrofe for menneskeheden, skriver The Guardian.
På BBC Radio 4's Today-program blev Hinton spurgt, om han havde ændret sin vurdering af en potentiel AI-apokalypse. Han svarede: "Ikke rigtigt: 10-20 %"
Da programmets gæsteredaktør, den tidligere finansminister Sajid Javid, bemærkede: "Du hæver risikoen," svarede Hinton: "Måske. Ser du, vi har aldrig før haft med noget mere intelligent end os selv at gøre."
"Og hvor mange eksempler kender du på, at noget mere intelligent bliver kontrolleret af noget mindre intelligent? Der er meget få. En mor og en baby er måske et eksempel. Evolution har arbejdet hårdt på at gøre det muligt for babyen at kontrollere moderen, men det er det eneste eksempel, jeg kender," fortsatte han.
Hinton, professor emeritus ved University of Toronto, sammenlignede også menneskers intelligens med småbørns i forhold til fremtidens avancerede AI-systemer.
"Forestil dig, at du er en treårig. Vi vil være de treårige," sagde han.
AI defineres løst som computersystemer, der udfører opgaver, som typisk kræver menneskelig intelligens. Sidste år vakte Hinton opsigt, da han trak sig fra sin stilling hos Google for at kunne tale mere åbent om de risici, der er forbundet med ukontrolleret AI-udvikling.
Han udtrykte bekymring for, at 'onde aktører' kunne bruge teknologien til at skade andre. En af de største bekymringer blandt fortalere for AI-sikkerhed er, at udviklingen af kunstig generel intelligens (AGI) - systemer, der er klogere end mennesker - kunne føre til en eksistentiel trussel, hvis teknologien undslipper menneskelig kontrol.
Hinton reflekterede over, hvor han troede AI-udviklingen ville være, da han først begyndte sit arbejde.
"Jeg troede ikke, vi ville være her nu. Jeg tænkte, at vi på et tidspunkt i fremtiden ville nå hertil," sagde han.
"De fleste eksperter i feltet mener nu, at vi inden for de næste 20 år sandsynligvis vil udvikle AI'er, der er klogere end mennesker. Og det er en meget skræmmende tanke."
Hinton understregede, at udviklingen går 'meget, meget hurtigt - hurtigere end jeg forventede', og opfordrede til, at regeringer verden over begynder at regulere teknologien.
"Min bekymring er, at den usynlige hånd (markedskræfter, red.) ikke vil holde os sikre. At overlade det til store virksomheders profitdrevne motiver er ikke nok til at sikre, at teknologien udvikles sikkert," sagde han.
"Det eneste, der kan tvinge de store virksomheder til at prioritere sikkerhedsforskning, er statslig regulering."
Hinton er en af de tre 'gudfædre inden for AI', der har modtaget ACM AM Turing-prisen - datalogiens svar på Nobelprisen - for deres arbejde.
En af de andre er Yann LeCun, der er chef-AI-forsker hos Mark Zuckerbergs Meta, har dog nedtonet de eksistentielle risici og udtalt, at AI 'faktisk kan redde menneskeheden fra udslettelse'.
