AI-gurun varnar: ”Vi leker med elden – tekniken kan ta över”

Geoffrey Hinton, en av världens mest inflytelserika AI-forskare och ofta kallad ”AI:s gudfader”, varnar återigen för att den snabbt växande AI-industrin kan bli farlig – om vi inte bromsar utvecklingen. Han menar att det finns en 10 till 20 procents risk att AI en dag tar kontrollen från oss människor.

LÄS OCKSÅ: Politiker och teknik: En farlig kombination som gång på gång avslöjar bristerna

”Det är som att uppfostra en tigerunge”

I en intervju med CBS nyligen målade Hinton upp ett oroväckande scenario.

– Tänk dig att du har en söt liten tigerunge. Den verkar ofarlig nu, men hur vet du att den inte kommer försöka döda dig när den är vuxen? frågade han retoriskt.

Det är enligt honom ungefär så vi bör se på dagens AI. Den är imponerande – men framtiden är långt ifrån trygg, skriver TechSpot. 

LÄS OCKSÅ: Nej, du kan inte spegla din iPhone i Sverige – tack, EU

Lämnade Google för att slå larm

Trots att Hinton varit med och lagt grunden till AI-modeller som ChatGPT, valde han att lämna sin roll på Google 2023. Anledningen? Han ville kunna prata fritt om AI:s risker – utan att påverka företaget negativt.

– Jämför hur AI såg ut för fem år sedan med hur det ser ut idag. Om man fortsätter i samma takt – då blir det skrämmande, säger han.

Han uttrycker också oro för att AI redan är på väg in i militära system och vapen – en utveckling han menar kan leda till katastrof.

”Techbolagen prioriterar pengar före säkerhet”

Enligt Hinton är det största hotet inte tekniken i sig, utan hur företagen bakom den agerar.

LÄS OCKSÅ: Gmail-användare varnas: Ny bluffmejl tar sig förbi Googles skydd

– De stora techbolagen försöker minska den redan svaga regleringen av AI. Istället borde de lägga en tredjedel av sin datorkraft på säkerhetsforskning. Just nu går bara en liten del dit, säger han.

Han riktar särskilt kritik mot Google, som nyligen ändrade sin policy och öppnade upp för att AI kan användas i militära syften – något de tidigare sagt nej till.

Inte ensam om sin oro

Hinton är inte ensam om sina farhågor. Han säger att han ogärna håller med Elon Musk, men att de båda ser en 10–20 procents risk att AI kan ta över.

– Det är bara en vild gissning, men det är ändå tillräckligt allvarligt för att vi ska ta det på allvar, säger han.

AI kan också göra gott – om vi gör rätt

Trots de mörka varningarna är Hinton inte emot AI som idé. Han tror att tekniken kan revolutionera utbildning, sjukvård, forskning och hjälpa oss att bekämpa klimatförändringarna – om den används rätt.

Men just nu, menar han, är vi på väg åt fel håll.