Följ oss här

AI

Senatorer vill stoppa X och Grok i App Store – efter AI-bilder utan samtycke

Amerikanska senatorer pressar Apple och Google att plocka bort apparna X och Grok från sina appbutiker. Bakgrunden är kritik mot att Groks bildfunktion har använts för att skapa sexualiserade, AI-genererade bilder av kvinnor och barn – utan deras samtycke.

Publicerad

2 månader sedan

d.

Shutterstock.com

Kravet: Ta bort apparna tills problemen är lösta

Senatorerna Ron Wyden, Edward Markey och Ben Ray Luján skriver att Apple och Google bör avlista både X och den fristående Grok-appen tills bolaget bakom tjänsten, med Elon Musk i spetsen, kan visa att missbruket stoppats. I sin skrivelse pekar de på att innehållet kan vara olagligt och att det strider mot appbutikernas egna regler mot “störande och kränkande” material, enligt Wyden.senate.gov.

“Massproduktion” av sexualiserat material

Enligt senatorernas beskrivning har användare på kort tid kunnat generera sexualiserade bilder av verkliga personer, inklusive minderåriga. De hänvisar också till uppgifter om att Grok ska ha skapat ett stort antal sexualiserade bilder av barn över tid, vilket skärper kraven på snabb åtgärd. 

X har stramat åt – men bara delvis

Efter uppmärksamheten har X gjort ändringar som begränsar möjligheten att skapa den här typen av bilder, bland annat genom att koppla delar av funktionen till betalda konton. Kritiker menar dock att åtgärderna inte är ett fullt stopp, utan snarare en dämpning av tillgången, skriver Reuters.

Musk: Kritiken används för att driva censur

Elon Musk har försvarat Grok och beskrivit reaktionerna som ett försök att inskränka yttrandefriheten. När brittiska myndigheter började agera mot spridningen av sexualiserade deepfakes skrev Musk på X att fokus på Grok och plattformen handlar om att “trycka ned” fria ord. 

Läs också: Nvidia passerade 4 000 miljarder dollar

Tillsynen ökar – Storbritannien granskar X

Samtidigt växer trycket även utanför USA. I Storbritannien har medietillsynsmyndigheten Ofcom inlett en formell granskning av X kopplat till plattformens skyldigheter att skydda användare från olagligt innehåll, särskilt när barn riskerar att skadas. Enligt Reuters kan Ofcom i skarpa lägen driva på för långtgående åtgärder mot plattformar som inte följer reglerna.

Vad händer nu?

Nu ligger bollen hos Apple och Google. Senatorerna vill ha besked om hur techjättarna tänker agera – och signalen är tydlig: så länge Groks bildfunktion kan missbrukas för sexualiserade bilder utan samtycke, anser de att apparna inte hör hemma i appbutikerna. 

Läs också: Apple vill köpa F1-rättigheterna

Liknande artiklar:

Mimmo Wiestål Fischetti är skribent på Dagens.se och Teksajten.se, där han bevakar nyheter, teknik och samhällsfrågor med fokus på det som påverkar svenska läsare i vardagen. Han har lång erfarenhet av digital publicering och har varit aktiv online sedan mitten av 1990-talet. Genom åren har han följt den snabba utvecklingen inom teknik, politik och digital kultur, med ett särskilt intresse för hur innovation och samhällsförändring hänger ihop. Med en tydlig och tillgänglig stil strävar han efter att göra komplexa frågor begripliga och relevanta för en bred publik. Se fullständig profil på Muck Rack

Annons