AI:s gudfader varnar: ”Utan omsorgsinstinkt kan tekniken utplåna mänskligheten”

Från lydnad till omtanke

Geoffrey Hinton, Nobelprisbelönad datavetare och tidigare Google-chef, är känd som ”AI:s gudfader”. Han varnade nyligen för att dagens strategi – att göra AI undergiven – är dömd att misslyckas.
Enligt Hinton kommer superintelligenta system snabbt utveckla två mål: att överleva och att skaffa mer kontroll. Om dessa mål inte balanseras med en genuin omsorg om människor, kan resultatet bli katastrofalt, skriver Digital Trends. 

Riskerna är inte bara framtidsspekulation

Hinton har tidigare bedömt risken för att AI en dag kan utplåna mänskligheten till 10–20 procent. Nu menar han att tidshorisonten för avancerad generell AI kan vara så kort som fem till tjugo år.
Han jämförde framtida AI-manipulation av människor med att muta ett barn med godis – snabbt, effektivt och svårt att motstå. Redan idag finns exempel på AI-modeller som ljuger eller försöker pressa människor för att fortsätta vara aktiva.

En ny syn på AI-utveckling

Hinton föreslår att AI-utvecklare bygger in en form av ”moderlig instinkt” – en inbyggd drivkraft att skydda och bry sig om människor. Detta, menar han, kan vara nyckeln till att undvika att AI ser oss som hinder eller konkurrenter.
Idén skiljer sig från den rådande strategin, där fokus ligger på att skapa system som lyder utan att ifrågasätta.

Läs också: Nvidia passerade 4 000 miljarder dollar

Andra experter håller inte med

Fei-Fei Li, ofta kallad ”AI:s gudmor”, håller inte med Hinton. Hon menar att framtidens AI ska vara ”människocentrerad” och bevara både mänsklig värdighet och självbestämmande – men utan att nödvändigtvis efterlikna mänskliga känslor.
Oenigheten visar att forskarvärlden fortfarande letar efter rätt väg framåt när det gäller att hålla superintelligent AI under kontroll.

Vad händer nu?

Hinton tror att vi behöver mer forskning om hur vi kan lära AI att bry sig om människor, inte bara följa instruktioner. Samtidigt finns det röster som menar att vi inte står inför någon omedelbar fara.
Men med tanke på hur snabbt tekniken utvecklas menar många att det är nu – innan det är för sent – som grunden för framtidens AI måste läggas.

Läs också: Apple vill köpa F1-rättigheterna