AI-appar som “nudify-verktyg” finns fortfarande kvar i Apples och Googles butiker

Hundratals miljoner nedladdningar – trots regler

Enligt TTP identifierades 55 “nudify-appar” i Google Play Store och 48 i Apple App Store, det vill säga program som med AI kan manipulera foton för att framställa personer i lättklädda eller nakna situationer, enligt The Verge. Dessa appar har enligt rapporten laddats ner över 700 miljoner gånger och genererat mer än 117 miljoner dollar i intäkter – pengar som både Apple och Google får en del av genom sina avgiftsmodeller. 

Michelle Kuppersmith, verkställande direktör för TTP-stiftelsen, säger att Apple och Google skulle granska appar noggrannare, men att det trots detta fortsätter att finnas program som “kan visa personer i minimal eller ingen klädsel – vilket gör dem lätta att missbruka”. 

Också Grok kvar på plattformarna

Bland de kvarvarande apparna finns AI-chatboten Grok, utvecklad av Elon Musks xAI, som blivit ökänd för att kunna generera icke-samtyckta och sexualiserade bilder när användare ber den redigera foton eller skapa bilder utifrån beskrivningar, enligt WIRED.

Grok har tidigare använts för att producera miljoner sexualiserade bilder, inklusive sådana som förefaller avbilda barn, något som väckt omfattande kritik och rättslig granskning i flera regioner. 

Läs också: Nvidia passerade 4 000 miljarder dollar

Trots att både Apple och Google i vissa fall tagit bort eller suspenderat appar som bryter mot reglerna för icke-samtyckt sexuellt innehåll, fortsätter Grok att vara tillgänglig i båda företagens butiker enligt kritiker. 

Kritik från lagstiftare och advocacy-grupper

På flera håll höjs röster mot hur plattformarna hanterar frågan. I USA har en grupp senatorer krävt att Apple och Google ta bort både Grok och X-appen helt från sina butiker, eftersom möjligheten för Grok att generera sexuellt exploaterande bilder bryter mot plattformarnas regler om “overt sexual or pornographic material” och förbud mot icke-samtyckt innehåll, skriver MacRumors.

En koalition av 28 civilsamhällesorganisationer menar att företagets passivitet innebär att de “inte bara möjliggör icke-samtyckt intimbildsgenerering och barnpornografiskt material, utan tjänar pengar på det”, och kräver omedelbara åtgärder. 

App-butikernas egna regler

Både Apple och Google har i sina riktlinjer förbjudit pornografiskt eller explicit innehåll och verktyg som sprider icke-samtyckt sexuellt material. Men kritik riktas mot att även om vissa kontroversiella appar tas bort, de största aktörerna kring AI-genererat innehåll tillåts finnas kvar, vilket sänker trovärdigheten i moderationen, enligt branschbevakare, skriver The Mac Observer.

Läs också: Apple vill köpa F1-rättigheterna

Vad betyder det för användare?

Problemet är inte bara tekniskt: sexuellt exploaterande AI-bilder kan skada riktiga människor, särskilt när de skapas utan samtycke och sprids på nätet. Det väcker svåra frågor om regelverk, ansvar och granskning av AI-verktyg – och hur stora plattformar bör agera när deras tjänster används för övergreppsliknande digitalt innehåll.

Läs också: Samsung fortsätter med galna priser