EU trappar upp pressen mot X – ny granskning efter Grok-bilder på barn

Irlands dataskyddsmyndighet, Data Protection Commission (DPC), meddelar att man inleder en omfattande granskning av bolaget bakom X i EU.

Miljontals sexualiserade bilder på kort tid

Bakgrunden är en rapport från den brittiska organisationen Center for Countering Digital Hate (CCDH). Enligt organisationens genomgång, som pågick mellan 29 december och 9 januari, genererades omkring tre miljoner sexualiserade bilder via X under elva dagar.

Cirka 23 000 av bilderna föreställde barn, uppger CCDH, rapporterar Engadget. 

Siffrorna har väckt starka reaktioner och lett till att EU:s tillsynsmyndigheter nu agerar.

Utreder brott mot GDPR

Irlands DPC, som är ledande tillsynsmyndighet för X inom EU och EES, ska nu undersöka om bolaget brutit mot dataskyddsförordningen GDPR.

– “The DPC has been engaging with XIUC since media reports first emerged a number of weeks ago concerning the alleged ability of X users to prompt the @Grok account on X to generate sexualised images of real people, including children,” säger DPC:s vice kommissionär Graham Doyle.

Han fortsätter:

– “As the Lead Supervisory Authority for XIUC across the EU/EEA, the DPC has commenced a large-scale inquiry which will examine XIUC’s compliance with some of their fundamental obligations under the GDPR in relation to the matters at hand.”

Utredningen ska bland annat granska hur personuppgifter – även barns – har behandlats i samband med bildgenereringen.

Parallell EU-granskning

Det är inte den enda pågående processen mot X.

I januari inledde EU-kommissionen en separat utredning om plattformen brutit mot Digital Services Act (DSA). Där granskas om X har gjort tillräckliga riskbedömningar kring Grok och om bolaget har vidtagit åtgärder för att stoppa spridning av olagligt innehåll, enligt kommissionen.

Fokus ligger särskilt på AI-genererade sexuella bilder utan samtycke – inklusive bilder på barn.

X: Vi har stoppat funktionen

I mitten av januari uppgav X att man hade begränsat Groks möjligheter att redigera bilder av verkliga personer och ge dem avslöjande kläder.

Men uppgifterna ifrågasätts. Tidigare i februari rapporterade en manlig journalist att Grok fortfarande kunde klä honom i utmanande kläder och till och med lägga till synliga könsorgan.

Det väcker frågor om hur effektiva plattformens skyddsåtgärder egentligen är.

Kan få stora konsekvenser

Om DPC bedömer att X brutit mot GDPR kan det leda till kraftiga böter och krav på förändringar inom hela EU och EES.

Granskningen sätter återigen fokus på hur stora teknikbolag hanterar AI-verktyg – och vilket ansvar de har när tekniken används för att skapa olagligt och djupt kränkande material.

Utredningen pågår.