Meta anklagas för att blunda för kändis-bedrägerier med AI

Ronaldo användes i bluff – visades över 600 000 gånger

En fejkad video med den brasilianske fotbollslegenden Ronaldo Nazário användes nyligen i en bluffannons för ett nätspel kallat Plinko. Videon var tydligt manipulerad med AI och rapporterades som bedrägeri över 50 gånger – ändå lät Meta den ligga kvar. Först efter att företagets egen tillsynsnämnd tog upp fallet, togs annonsen bort. Facebookinlägget låg dock kvar ännu längre, det skriver Engadget. 

Tusentals liknande annonser – även med Mark Zuckerberg

Övervakningsnämnden fann i sin granskning att Meta tillåtit tusentals liknande annonser för samma app. Flera av dem använde AI-genererade versioner av kändisar – bland annat Cristiano Ronaldo och till och med Metas egen vd Mark Zuckerberg.

Kritiken: Recensenter får inte stoppa bluffar

Nämnden menar att Metas modereringssystem har allvarliga brister. Många av dem som granskar innehåll får inte ens mandat att ta bort uppenbara AI-bluffar, vilket gör att mycket falskt material tillåts spridas. I sitt uttalande skriver nämnden:

”Meta tillåter troligen stora mängder bluffinnehåll för att inte råka stoppa riktiga kändisrekommendationer.”

Man påpekar också att policyn endast tillämpas när fall ”eskaleras”, och att tolkningen av vad som är en fejkad persona skiljer sig mellan olika länder.

Meta slår tillbaka – men erkänner viss utveckling

Meta håller inte med om nämndens slutsatser. En talesperson menar att flera påståenden är felaktiga och att företaget redan testar ansiktsigenkänning för att stoppa ”celeb-bait”-bluffar. Samtidigt medger Meta att bedrägerierna har blivit mer avancerade och svåra att stoppa:

”Vi bekämpar bluffar aggressivt och testar ny teknik för att skydda användare.”

Andra larmar också: Nära hälften av Zelle-bedrägerier sker via Meta

Det är inte bara tillsynsnämnden som larmar. Enligt Wall Street Journal stod Metas plattformar för nästan hälften av alla rapporterade bedrägerier via betalappen Zelle hos JPMorgan Chase under 2023–2024. Brittiska och australiska myndigheter har rapporterat liknande siffror.

Kritiker menar att Meta inte vill riskera sina annonsintäkter – och att bolaget ogärna stoppar köpare, även om de upprepade gånger ligger bakom bluffar.

Kändisar kräver handling – Jamie Lee Curtis bland de drabbade

Flera kändisar har reagerat offentligt. Skådespelaren Jamie Lee Curtis kritiserade nyligen Meta för att inte ta bort en AI-fejkad annons där hon påstod stödja ett bluffbolag. Först efter hennes inlägg på sociala medier togs videon bort.