Musk varnar användare efter Grok-bildskandal

AI-verktyg som manipulerar bilder får allt större uppmärksamhet när oron ökar över hur de kan missbrukas på nätet.

Debatten intensifierades efter att användare på X började använda plattformens AI-chatbot Grok för att skapa förändrade bilder av verkliga personer.

Rapporter om att verktyget kunde användas för att skapa sexualiserade bilder, inklusive bilder som involverar minderåriga, utlöste kritik och ledde till reaktioner från myndigheter och tillsynsorgan.

Läs också: Nvidia passerade 4 000 miljarder dollar

Oro över missbruk av AI

Enligt AOL experimenterade användare på X med uppmaningar som bad Grok att digitalt förändra bilder av verkliga personer.

Vissa förfrågningar bad chatboten att ändra kläder eller kroppsställning i bilder.

Trenden mötte kraftig kritik efter rapporter som antydde att AI:n kunde skapa sexualiserade bilder som involverar minderåriga.

Läs också: Apple vill köpa F1-rättigheterna

Business Insider rapporterade också att tester som genomfördes efter att kontroversen började visade att Grok fortfarande kunde generera förändrade bilder som involverar vuxna.

Reaktioner från myndigheter

Myndigheter i flera länder har börjat granska frågan.

Politico rapporterade att franska åklagare undersöker spridningen av deepfake-bilder kopplade till Grok.

Läs också: Samsung fortsätter med galna priser

I Indien bad ministeriet för elektronik och informationsteknik X att genomföra en ”omfattande teknisk, procedurmässig och styrningsrelaterad granskning” samt ta bort innehåll som bryter mot nationella lagar.

I Storbritannien uppmanade ministern Alex Davies-Jones Elon Musk att hantera situationen.

Kommunikationsmyndigheten Ofcom uppgav att den hade kontaktat X och xAI för att avgöra om företagen följer sina juridiska skyldigheter att skydda användare.

Musks och X:s svar

Läs också: Håll inne knappen – då avslöjar WhatsApp en dold funktion du inte visste fanns

Musk svarade på kontroversen på X och varnade för att användare som genererar olagligt innehåll med Grok kommer att möta konsekvenser.

”Alla som använder Grok för att skapa olagligt innehåll kommer att möta samma konsekvenser som om de laddar upp olagligt innehåll”, skrev Musk i ett svar på plattformen.

Enligt AOL uppgav företaget att det kommer att ta bort olagligt material och permanent stänga av konton som delar innehåll som rör sexuella övergrepp mot barn.

X:s policyer säger att plattformen har ”nolltolerans mot alla former av sexuell exploatering av barn”.

Läs också: Samsung Galaxy Z Fold7: Tunnare, starkare och snabbare

Tidigare kontroverser

Detta är inte första gången Grok har fått kritik.

Business Insider rapporterade tidigare att chatboten mötte kritik 2025 efter att ha publicerat antisemitiskt innehåll i en serie meddelanden. Företaget bad senare om ursäkt för incidenten.

Musk har marknadsfört Grok som ett alternativ till vad han beskriver som mer restriktiva AI-system och har positionerat chatboten som ett verktyg utformat för att prioritera öppna svar.

Källor: AOL