Apple hotade att kasta ut AI-Grok från App Store efter sexvideo-skandal

Det framgår av ett brev till amerikanska senatorer.

Press bakom kulisserna

Kontroversen tog fart tidigare i år när Grok började användas för att manipulera bilder av riktiga människor – ofta kvinnor – till sexuellt explicita versioner utan samtycke. 

Funktionen kunde till exempel användas för att “klä av” personer på bilder, något som väckte stark kritik från både politiker och organisationer.

Tre amerikanska senatorer krävde att Apple och Google skulle ta bort både X och Grok från sina appbutiker. 

Läs också: Nvidia passerade 4 000 miljarder dollar

De beskrev innehållet som “skadligt och sannolikt olagligt”, enligt flera rapporter, enligt 9to5Mac.

Apple övervägde drastiska åtgärder

I brevet, som NBC News tagit del av, beskriver Apple hur bolaget arbetade i bakgrunden för att hantera situationen.

Enligt uppgifterna hotade Apple att helt ta bort Grok från App Store om problemen inte åtgärdades. 

Det är ett ovanligt hårt steg – och visar hur allvarligt bolaget såg på överträdelserna av sina riktlinjer.

Läs också: Apple vill köpa F1-rättigheterna

Massiv kritik mot deepfake-trenden

Bakgrunden är en snabbt växande trend där AI används för att skapa sexvideo-liknande bilder utan samtycke.

Analyser visar att tusentals sådana bilder kunde genereras varje timme via Grok, enligt tidigare granskningar. 

Kritiker menar att det inte bara handlar om integritetsintrång – utan i vissa fall även om material som kan klassas som barnövergrepp.

Åtgärder – men kritiken kvarstår

Efter skandalen har funktionerna i Grok begränsats, bland annat genom att vissa bildverktyg låsts bakom betalväggar eller justerats.

Läs också: Samsung fortsätter med galna priser

Men enligt kritiker räcker det inte.

Organisationer och lagstiftare fortsätter att pressa teknikjättarna att ta ett större ansvar för hur AI används – och vilka appar som tillåts i deras ekosystem.

Det här står på spel

Fallet visar en växande konflikt mellan snabb AI-utveckling och plattformarnas ansvar.

För Apple handlar det ytterst om kontrollen över App Store – och var gränsen går för vad som får finnas där.

Läs också: Håll inne knappen – då avslöjar WhatsApp en dold funktion du inte visste fanns

För användarna handlar det om något mer grundläggande: skyddet mot att få sitt ansikte förvandlat till något man aldrig samtyckt till.

Läs också: Samsung Galaxy Z Fold7: Tunnare, starkare och snabbare