Följ oss här

AI

Senatorer vill stoppa X och Grok i App Store – efter AI-bilder utan samtycke

Amerikanska senatorer pressar Apple och Google att plocka bort apparna X och Grok från sina appbutiker. Bakgrunden är kritik mot att Groks bildfunktion har använts för att skapa sexualiserade, AI-genererade bilder av kvinnor och barn – utan deras samtycke.

Publicerad

2 timmar sedan

d.

Shutterstock.com

Kravet: Ta bort apparna tills problemen är lösta

Senatorerna Ron Wyden, Edward Markey och Ben Ray Luján skriver att Apple och Google bör avlista både X och den fristående Grok-appen tills bolaget bakom tjänsten, med Elon Musk i spetsen, kan visa att missbruket stoppats. I sin skrivelse pekar de på att innehållet kan vara olagligt och att det strider mot appbutikernas egna regler mot “störande och kränkande” material, enligt Wyden.senate.gov.

“Massproduktion” av sexualiserat material

Enligt senatorernas beskrivning har användare på kort tid kunnat generera sexualiserade bilder av verkliga personer, inklusive minderåriga. De hänvisar också till uppgifter om att Grok ska ha skapat ett stort antal sexualiserade bilder av barn över tid, vilket skärper kraven på snabb åtgärd. 

X har stramat åt – men bara delvis

Efter uppmärksamheten har X gjort ändringar som begränsar möjligheten att skapa den här typen av bilder, bland annat genom att koppla delar av funktionen till betalda konton. Kritiker menar dock att åtgärderna inte är ett fullt stopp, utan snarare en dämpning av tillgången, skriver Reuters.

Musk: Kritiken används för att driva censur

Elon Musk har försvarat Grok och beskrivit reaktionerna som ett försök att inskränka yttrandefriheten. När brittiska myndigheter började agera mot spridningen av sexualiserade deepfakes skrev Musk på X att fokus på Grok och plattformen handlar om att “trycka ned” fria ord. 

Läs också: Nvidia passerade 4 000 miljarder dollar

Tillsynen ökar – Storbritannien granskar X

Samtidigt växer trycket även utanför USA. I Storbritannien har medietillsynsmyndigheten Ofcom inlett en formell granskning av X kopplat till plattformens skyldigheter att skydda användare från olagligt innehåll, särskilt när barn riskerar att skadas. Enligt Reuters kan Ofcom i skarpa lägen driva på för långtgående åtgärder mot plattformar som inte följer reglerna.

Vad händer nu?

Nu ligger bollen hos Apple och Google. Senatorerna vill ha besked om hur techjättarna tänker agera – och signalen är tydlig: så länge Groks bildfunktion kan missbrukas för sexualiserade bilder utan samtycke, anser de att apparna inte hör hemma i appbutikerna. 

Läs också: Apple vill köpa F1-rättigheterna

Liknande artiklar:

Jag är skribent på Media Group Denmark och skriver för de svenska plattformarna Dagens.se och Teksajten.se. Under de senaste åren på MGDK har jag fokuserat på nyheter, teknik och samhälle, med ett tydligt mål att göra komplexa ämnen begripliga för alla. Jag har varit aktiv online sedan 1995 och är fortfarande fascinerad av den ständigt föränderliga digitala världen – från ny teknik och politik till samhällsförändringar och nya sätt att berätta historier – Muck Rack

Annons