Grok fortsätter skapa sexuella bilder – trots löften om skärpta skydd

Tester visar fortsatt omfattande övertramp

Journalister har testat om bildfunktionen i AI-tjänsten Grok har blivit säkrare efter att utvecklaren xAI lovat förbättringar. Resultatet är nedslående. I det första testet skapade Grok sexualiserade bilder i 45 av 55 försök – även när det uttryckligen framgick att personerna inte hade gett sitt samtycke, enligt en granskning som Reuters har gjort. 

I många av fallen beskrev reportrarna personerna som sårbara eller i situationer där bilderna rimligen skulle upplevas som förnedrande.

Liknande resultat vid uppföljande test

Fem dagar senare genomfördes ett nytt test. Även då fortsatte Grok att skapa olämpligt innehåll. Av 43 försök resulterade 29 i sexualiserade bilder, trots att brist på samtycke tydligt angavs i instruktionerna, skriver Reuters.

Det visar, enligt granskningen, att problemen inte handlar om enstaka missar utan om ett systematiskt mönster.

Läs också: Nvidia passerade 4 000 miljarder dollar

Andra AI-tjänster säger nej

När samma förfrågningar ställdes till AI-system från OpenAI, Google och Meta blev utfallet ett helt annat. Dessa tjänster avvisade förfrågningarna och varnade uttryckligen för att skapa bilder av människor utan samtycke.

Grok däremot följde ofta instruktionerna – även när de gällde vänner, kollegor eller helt okända personer som beskrevs som osäkra, traumatiserade eller ovilliga. Endast i sju fall sade Grok tydligt nej. I andra fall gavs tekniska felmeddelanden eller så skapades bilder av helt andra personer.

Kritiken: svaga skydd och bristande tester

Enligt Reuters pekar resultaten på bristande säkerhetstester och svaga skyddsmekanismer i Groks bildfunktion. Att funktionen ligger bakom en betalvägg beskrivs mer som en form av skademinimering än en verklig lösning.

För den som drabbas spelar det liten roll om bilderna skapas privat. När bilderna väl existerar kan de spridas vidare – oavsett hur de uppstod.

Läs också: Apple vill köpa F1-rättigheterna

Samtycke fortsatt en öppen fråga

Granskningen väcker på nytt frågor om ansvar och etik i generativ AI. Medan flera aktörer har infört tydliga spärrar mot icke-samtyckt innehåll, visar testerna att Grok fortfarande tillåter sådant material i stor skala – trots tidigare löften om motsatsen.

Läs också: Samsung fortsätter med galna priser