EU slår mot AI-”naken-generatorer” i stor åtgärd efter global upprördhet

Europeiska lagstiftare driver fram nya restriktioner för artificiell intelligens i takt med växande oro över missbruk.

Åtgärden följer ökande upprördhet över explicita bilder som skapats utan samtycke.

Förslaget riktar sig mot en kontroversiell del av AI-utvecklingen som har väckt oro i flera länder.

Läs också: Nvidia passerade 4 000 miljarder dollar

Lagstiftare agerar

Enligt AFP har ledamöter i Europaparlamentets utskott för medborgerliga fri- och rättigheter godkänt planer på att förbjuda AI-system som skapar sexualiserade deepfakes.

Åtgärden riktar sig särskilt mot så kallade ”nudification”-appar, som kan skapa falska explicita bilder av personer utan deras tillåtelse.

En slutlig omröstning i Europaparlamentet är planerad till den 26 mars.

Läs också: Apple vill köpa F1-rättigheterna

Ökad oro

Initiativet kommer efter global kritik kring icke-samtyckesbaserade bilder kopplade till Elon Musks chatbot Grok.

Lagstiftare menar att sådana verktyg redan har orsakat skada, särskilt för kvinnor och minderåriga.

”Detta är en stor seger, särskilt för kvinnor och barn i Europa”, sade Kim van Sparrentak från De gröna och varnade för de känslomässiga konsekvenserna för offren.

Läs också: Samsung fortsätter med galna priser

Krav på skyddsåtgärder

Den irländske politikern Michael McNamara, som leder arbetet med lagstiftningen, sade att målet är att eliminera skadliga applikationer som drivs av vinstintresse.

Han beskrev verktygen som ”nudification-appar utan samtycke, som har orsakat mycket lidande för vissa aktörers vinning”.

Förslaget bygger vidare på bredare insatser för att skärpa EU:s regler för artificiell intelligens.

Läs också: Håll inne knappen – då avslöjar WhatsApp en dold funktion du inte visste fanns

Plattformarnas respons

Teknikföretag har också utsatts för press att agera. I januari uppgav X att plattformen har ”nolltolerans” mot sexualiserade deepfakes som involverar kvinnor och barn.

Plattformen, där Grok finns tillgänglig, meddelade nya åtgärder för att förhindra sådant innehåll.

Samtidigt har Europeiska kommissionen inlett en utredning av chatboten enligt EU:s digitala regelverk.

Läs också: Samsung Galaxy Z Fold7: Tunnare, starkare och snabbare

Källor: AFP, The News International