X stramar åt Grok – stoppar sexvideo-redigering och låser bildskapande bakom betalvägg

X ändrar sina regler för Groks bildfunktioner efter flera veckors uppmärksamhet kring sexualiserade AI-bilder, inklusive anklagelser om barn och nakenbilder utan samtycke. I ett inlägg från kontot @Safety på X meddelar bolaget att tekniska spärrar införts som hindrar redigering av bilder på verkliga personer i exempelvis bikinis.

Gäller alla användare – oavsett betalning

De nya skydden gäller samtliga användare, även de som betalar för Grok. Samtidigt flyttar xAI alla funktioner för bildgenerering bakom en prenumerationsvägg, vilket innebär att icke-betalande användare helt förlorar möjligheten att skapa bilder, enligt X.

Bolaget uppger också att möjligheten att generera bilder av verkliga personer i bikinis, underkläder och liknande klädsel kommer att geoblockeras i regioner där detta strider mot lokal lagstiftning.

Kalifornien utreder xAI

Beskedet kom bara timmar efter att delstaten Kalifornien öppnat en utredning mot xAI och Grok. Kaliforniens justitieminister Rob Bonta hänvisar i ett uttalande till en analys som visar att över hälften av 20 000 bilder som genererats av xAI mellan jul och nyår föreställde personer i minimala kläder – där vissa bilder uppgavs se ut att föreställa barn, enligt Kaliforniens justitieministerium, det skriver Engadget. 

Läs också: Nvidia passerade 4 000 miljarder dollar

X svarar att bolaget har ”nolltolerans” mot barnexploatering och att innehåll som bryter mot reglerna, inklusive material med sexuella övergrepp mot barn (CSAM) och nakenbilder utan samtycke, tas bort med hög prioritet, enligt företagets uppdatering.

Musk: ”Inte medveten om nakenbilder på minderåriga”

Tidigare under dagen sade Elon Musk att han inte var medveten om att Grok skulle ha genererat nakenbilder på minderåriga. Senare förtydligade han att när NSFW-inställningen är aktiverad ska Grok endast tillåta överkroppsnakenhet för påhittade vuxna personer, i nivå med vad som kan förekomma i R-klassade filmer på Apple TV. Hur reglerna tillämpas kan dock variera mellan regioner, beroende på lokala lagar, enligt Musk.

Flera länder har redan stoppat Grok

Säkerhetsfrågorna har fått konkreta följder internationellt. Malaysia och Indonesien har nyligen blockerat Grok med hänvisning till hanteringen av sexuellt explicit AI-material. I Storbritannien utreder medietillsynsmyndigheten Ofcom xAI, och brittiska tjänstemän har signalerat att de kan stödja ett liknande förbud, enligt Ofcom.

Med de nya begränsningarna försöker X nu dämpa kritiken och visa handlingskraft – men frågan om Groks bildfunktioner lär fortsätta att granskas, både av användare och myndigheter.

Läs också: Apple vill köpa F1-rättigheterna

Läs också: Samsung fortsätter med galna priser