Google i kamp mot AI-svindel: Stoppade 5 miljarder bluffannonser 2024

Googles senaste rapport visar en skrämmande trend: svindel via AI har nått nya nivåer. Under 2024 blockerade företaget mer än fem miljarder skadliga annonser och stängde ned nästan 40 miljoner konton som ägnat sig åt bedrägligt beteende – en tydlig indikation på att bluffmakare växlar upp.

LÄS OCKSÅ: Kända hackergruppen DonRoad: “Vi ska stänga ner Musks imperium”

Generativ AI driver på svindeln

Google beskriver i sin Ads Safety Report hur det senaste årets bluffvåg har drivits på av generativ AI (GenAI). Tekniken har gjort det enklare att skapa trovärdiga falska annonser – ofta med hjälp av deepfakes där kända personer används för att lura användare.

Men samtidigt som svindlarnas verktyg blivit mer avancerade, har även Googles försvar utvecklats, skriver Trend. 

Google svarar med egen AI

För att möta hotet har Google rustat upp sitt eget AI-försvar. Under 2024 blockerades eller togs 5,1 miljarder annonser bort – nästan lika många som året innan. Men skillnaden låg i antalet nedstängda annonskonton: hela 39,2 miljoner, vilket är 12,7 miljoner fler än under 2023.

LÄS OCKSÅ: Toppchef lämnar Tesla – aktien störtdyker efter ny smäll

Genom att stoppa kontona innan annonserna ens hann publiceras har Google lyckats hålla mängden ”dåliga annonser” på en stabil nivå.

700 000 konton stängdes för AI-baserat identitetsbedrägeri

Ett särskilt stort fokus har legat på AI-genererade annonser som utger sig för att komma från kända personer. Google rapporterar att man permanent stängt över 700 000 konton som brutit mot företagets regler om vilseledande innehåll.

– Vi satte snabbt ihop ett team på över 100 experter för att analysera svindelmetoderna och uppdatera våra riktlinjer, säger Google i rapporten.

LÄS OCKSÅ: Trump ger TikTok ännu en chans – ny deadline för att undvika förbud

Resultatet blev ett 90-procentigt fall i rapporter om den typen av annonser.

Förbättrade språkmodeller spelar nyckelroll

Google har även förbättrat sina egna stora språkmodeller (LLM:er) med över 50 uppdateringar, vilket lett till mer exakt och snabb identifiering av regelbrott.

Företaget säger sig fortsätta investera tungt i AI för att ligga steget före bluffmakarna. Och trots att kampen långt ifrån är över, är de nya siffrorna ett tydligt tecken på att tekniken – när den används rätt – kan bli ett kraftfullt skydd mot digitalt fusk.