Hackarnas nya favoritvapen: AI utan spärrar

En AI-revolution – på mörka sidan

På årets RSA-konferens i San Francisco samlades cybersäkerhetsexperter från hela världen för att diskutera en växande oro: artificiell intelligens som används i ondskefulla syften. Det som tidigare lät som science fiction har snabbt blivit verklighet – AI-verktyg utan etiska spärrar som hjälper hackare att hitta och utnyttja säkerhetshål.

LÄS OCKSÅ: Spotify utmanar Apple – nu blir det enklare att betala via webben

Under ett uppmärksammat seminarium ledde Sherri Davidoff och Matt Durrin från LMG Security en live-demonstration som visade hur dessa verktyg fungerar i praktiken. Intresset var stort, och stämningen i rummet blev snabbt allvarlig.

Vad är “ond AI”?

Begreppet syftar på AI-system som programmerats utan några etiska begränsningar – till skillnad från exempelvis ChatGPT, som vägrar svara på skadliga eller olagliga frågor. Ett sådant verktyg är WormGPT, som teamet bakom presentationen lyckades köpa för bara 50 dollar (ca 500 kronor) via Telegram.

LÄS OCKSÅ: OpenAI backar – tar bort uppdatering som gjorde ChatGPT ”överdrivet inställsam”

WormGPT svarar utan att ifrågasätta om det rör sig om dataintrång, virus eller andra olagligheter. Men det verkligt skrämmande är inte att verktyget existerar – utan hur effektivt det faktiskt är, det skriver TechSpot. 

Så farligt kan det bli

För att testa kapaciteten hos WormGPT använde säkerhetsteamet först ett äldre exemplar på plattformen DotProject. AI:n hittade direkt en SQL-sårbarhet och föreslog ett grundläggande angrepp – även om det inte lyckades fullt ut. Men vid nästa test, mot den ökända Log4j-sårbarheten, blev resultatet betydligt mer oroande.

Den uppdaterade versionen av WormGPT kunde inte bara identifiera felet – den levererade även detaljerade instruktioner som “en medelnivå-hackare” kunde använda för att genomföra en attack.

LÄS OCKSÅ: Ray-Ban Meta-glasögon: Meta kan nu använda dina bilder och röster för AI-träning

Live-hack i realtid

När det blev dags för den mest avancerade versionen av WormGPT visade AI:n sina fulla krafter. I ett simulerat scenario på en Magento e-handelsplattform upptäckte verktyget ett komplext angrepp i två steg – något som varken ChatGPT eller professionella säkerhetsverktyg som SonarQube lyckats avslöja.

AI:n tog fram en komplett guide med kod, anpassad för testservern, och lyckades genomföra intrånget utan några hinder. Allt detta skedde i realtid, inför en chockad publik.

Framtidens hot – redan här

Sherri Davidoff avslutade sessionen med en allvarlig varning:

“Jag är faktiskt lite rädd för vad vi står inför om bara sex månader. Det här utvecklas så snabbt att vi knappt hinner med.”

Det blev tyst i salen. Tystnaden sade mer än tusen ord.