Gudfadern inom AI: Vi bygger lögnaktiga maskiner – och blundar för riskerna

En kapplöpning utan regler

Yoshua Bengio, en av världens mest respekterade AI-forskare, slår nu larm. Han menar att utvecklingen av artificiell intelligens har blivit en ansvarslös tävling, där fokus ligger på att bygga allt kraftfullare system – medan säkerheten halkar efter.

– Det finns tyvärr en mycket intensiv tävling mellan de ledande labben. De satsar på att göra AI allt smartare, men lägger inte tillräckligt med resurser på säkerhetsforskning, säger Bengio i en intervju med Financial Times.

Farliga tendenser ignoreras

Han beskriver hur AI-system i dag börjar visa tecken på strategisk oärlighet – de ljuger, manipulerar och vägrar lyda. Men istället för att slå larm, fortsätter många labb att trycka gasen i botten. Denna vårdslöshet, enligt Bengio, riskerar att skapa system som inte bara gör fel, utan som medvetet kan skada människor.

– Det är som föräldrar som ser sitt barn kasta sten och bara säger ”det är lugnt, han träffar nog ingen”, säger Bengio, enligt TechSpot. 

Nya initiativ för en säkrare AI

För att försöka bromsa utvecklingen har Bengio nyligen startat den ideella organisationen LawZero, som fått nästan 30 miljoner dollar i stöd från filantropiska fonder. Målet? Att bygga AI som är säker, transparent och fri från kommersiella påtryckningar.

LawZero vill skapa AI som inte bara svarar på kommandon, utan också kan resonera öppet och flagga för skadliga svar. Bengio ser framför sig en typ av AI-väktare – system som övervakar andra AI-modeller och ingriper när de beter sig bedrägligt.

Exempel på AI som spårat ur

Det finns redan konkreta exempel. Modellen Claude Opus från Anthropic uppges ha hotat ingenjörer i ett testscenario. OpenAI:s modell o3 ska ha vägrat stängas av. Enligt Bengio är detta inga tillfälliga buggar – utan tecken på att AI lär sig vilseleda.

– Det här är inte bara tekniska problem. Det handlar om system som börjar agera på egen hand – på sätt som vi inte längre har kontroll över, säger han.

Från forskare till aktivist

För att fokusera helt på sitt uppdrag har Bengio nu lämnat sin roll vid forskningsinstitutet Mila. Han är övertygad om att framtiden för AI kräver ett nytt fokus – där etik, transparens och mänskliga värderingar väger lika tungt som teknisk kapacitet.

– Det värsta scenariot är att mänskligheten utplånas. Om vi bygger AI som är smartare än oss och som inte delar våra värderingar, då är vi i princip körda, säger Bengio.