Startsida AI Googles kvartalsrapport: AI-ramverk byggde färdiga cyberattacker ur patchar helt utan...

Googles kvartalsrapport: AI-ramverk byggde färdiga cyberattacker ur patchar helt utan människor

Googles kvartalsrapport: AI-ramverk byggde färdiga cyberattacker ur patchar helt utan människor
Illustrationsbild / AI-genererad

För första gången har säkerhetsforskare hittat ett AI-system som själv letar fram sårbarheter och kör attacker utan att en människa trycker på knappen.

Google Threat Intelligence Group beskrev upptäckten i sin nya kvartalsrapport den 16 november som ett vattendelande ögonblick för cybersäkerheten. Ramverket, döpt till exploit_agent, låg på en oskyddad utvecklingsserver och var kopplat till flera stora språkmodeller, både kommersiella frontmodeller och lokalt körda varianter.

Systemet jämför kontinuerligt koden i vanligt använda webbapplikationer före och efter att utvecklarna släpper en säkerhetspatch. När AI-agenten identifierar det som sannolikt är den lagade sårbarheten, konstruerar och kör den automatiskt en exploit mot riktiga mål.

”För första gången har angripare använt ett AI-ramverk som kör utan människa i loopen för att förvandla säkerhetspatchar till exploits”, skriver Google i rapporten enligt SiliconANGLE. Rapporten bär titeln ”Agentic Threat Activity Crosses a Significant Threshold”.

Rysktalande operatör, franska mål

Google uppger inte vilken grupp eller stat som ligger bakom exploit_agent, men pekar på flera indicier. Konfigurationsfilerna innehöll kommentarer på ryska, bland annat instruktionen ”enter the keys right here, not in the chat” vid raden där operatören skulle lägga in API-nycklar.

Offerdatan pekar i sin tur mot franska webbplatser inom media, underhållning och utbildning, enligt The Next Web. På samma server fanns även verktyg för att installera och ta bort webshells och script för lösenordsgissning, vilket enligt Google tyder på en aktiv kampanj snarare än ett experiment.

Google skriver att bolaget bedömer det som ”högst sannolikt att hotaktörer kommer att fortsätta använda den här typen av ramverk i kampanjer mot organisationer världen över”, enligt samma rapport.

FBI varnade för systerverktyget ARTEX tre dagar tidigare

Tre dagar före Googles rapport, den 13 november, gick FBI ut med en motsvarande varning om det öppna ramverket ARTEX, som sedan augusti använts i attacker mot bland annat amerikansk sjukvård. ARTEX har ingen egen språkmodell utan ansluter till kommersiella tjänster som Anthropics Claude och OpenAI:s ChatGPT, enligt American Hospital Association.

John Riggi, cybersäkerhetsrådgivare på AHA, beskriver konsekvensen som ”cyberangrepp i maskinhastighet, där vissa intrång gått från första kontakt till privilegierad åtkomst på under tre timmar”, enligt samma rapport.

Google landar i en liknande slutsats i sitt eget dokument. ”Eran av autonoma attacker har kommit”, skriver bolaget enligt Free Press Journal, och konstaterar vidare att det inte är genomförbart att försvara sig mot hot i maskinhastighet med mänsklig hastighet.

Patchen själv blir kartan för angriparen

Den tekniska poängen är att en säkerhetspatch, det verktyg som ska skydda användaren, nu i sig fungerar som en karta för angriparen. Så snart en uppdatering släpps jämför AI-agenten den gamla och nya koden, drar slutsatser om vad som lagats och vänder det till ett angrepp mot system där patchen ännu inte installerats.

Google uppmanar organisationer att inventera alla internetvända system och installera säkerhetsuppdateringar så fort de släpps. För privatanvändare innebär det att automatiska uppdateringar i webbläsare, telefon och operativsystem bör vara påslagna, och att fördröjda omstarter efter en uppdateringsavisering bör undvikas.

Ads by MGDK