Storbritannien slår till mot AI-porr – Grok i praktiken förbjudet

Regeringen vill också stoppa själva “nudify”-verktygen – och pekar ut att funktioner kopplade till X:s AI-tjänst Grok har använts för att ta fram kränkande material, skriver TIME.

Nytt brott: att skapa sexualiserade deepfakes

Brittiska regeringen vill skärpa reglerna mot så kallade sexuella deepfakes: AI-genererade nakenbilder eller sexualiserade bilder som föreställer en riktig person utan att personen gått med på det. Enligt regeringen ska nya bestämmelser täppa till en lucka genom att kriminalisera själva skapandet – inte bara spridningen, enligt GOV.UK.

Regeringen vill även stoppa verktygen bakom

Det som sticker ut i Storbritanniens linje är att den inte bara riktar in sig på den som skapar eller delar bilderna. Regeringen vill också kunna slå mot digitala verktyg som möjliggör övergreppen, alltså tjänster som i praktiken kan användas för att “avklä” människor med AI.

Det är här Grok kommer in. Enligt uppgifter i brittisk och internationell rapportering har Groks bildfunktion använts för att skapa sexualiserade bilder – och materialet ska ha spridits via X, skriver TIME.

Läs också: Nvidia passerade 4 000 miljarder dollar

Ofcom utreder X – kan sluta med stora sanktioner

Parallellt har den brittiska tillsynsmyndigheten Ofcom öppnat en formell granskning av X. Utredningen gäller om plattformen levt upp till kraven i landets Online Safety Act, som bland annat ställer krav på att stoppa olagligt innehåll och göra riskbedömningar. 

Om Ofcom anser att X brustit kan det i slutänden handla om höga böter. Enligt brittiska uppgifter kan sanktionsnivåerna i vissa fall kopplas till en andel av bolagets globala omsättning – och i de mest långtgående scenarierna finns också verktyg som kan begränsa plattformens möjligheter att fungera i landet, det skriver The Guardian.

Varför frågan exploderar just nu

Regeringen beskriver sexuella deepfakes som grovt kränkande, och pekar särskilt på att kvinnor och barn drabbas. I rapporteringen lyfts också oro för att tekniken används som ett verktyg för hot, utpressning och trakasserier – och att takten i spridningen gör att lagstiftningen måste hinna ikapp. 

Vad det kan betyda för Grok i praktiken

Det är inte en “app-bannlysning” i klassisk mening – men när nya brott kopplas till både skapande och tillhandahållande av verktyg ökar pressen på tjänster som kan generera den här typen av bilder. För Grok och X betyder det att funktioner, skyddsräcken och moderering hamnar under lupp i Storbritannien – samtidigt som Ofcom utreder om plattformen redan brutit mot reglerna. 

Läs också: Apple vill köpa F1-rättigheterna

I korthet: Storbritannien flyttar fokus från att jaga enskilda bilder – till att strypa tekniken som gör dem möjliga.

Läs också: Samsung fortsätter med galna priser