Deepfake-lagar skärps –  kan kosta miljarder i böter

AI-genererade deepfakes sprids som en löpeld på nätet och kan få farliga konsekvenser. 

Från fejkade röstkloner av tidigare amerikanska presidenter till manipulerade bilder som utnyttjar barn i katastrofsituationer – användningen av AI för desinformation ökar snabbt. Nu börjar lagstiftarna agera, och de vänder sig till ett välkänt verktyg: böter.

LÄS OCKSÅ: Snapchat Platinum får superkrafter – AI gör filtren mer levande

I Spanien har ett nytt lagförslag röstats igenom som kan leda till böter på upp till 38,2 miljoner dollar för företag som inte tydligt märker AI-genererat innehåll. Samtidigt driver South Dakota på i USA med lagförslag som ska ge både civilrättsliga och straffrättsliga påföljder för spridning av deepfakes i politiska kampanjer.

Europa tar täten – Spanien först ut med hårda AI-böter

Det spanska lagförslaget följer EU:s AI-förordning som infördes förra året och skärper kraven på transparens för AI-verktyg som bedöms som ”högrisk”. Deepfakes hamnar inom denna kategori, och att inte märka AI-genererat innehåll korrekt klassas som en ”allvarlig överträdelse”.

LÄS OCKSÅ: AI-hallucinationer: När chatbots hittar på fakta

Spanien blir därmed det första EU-landet att faktiskt genomföra en lagstiftning för att verkställa AI-förordningens riktlinjer kring deepfakes – något som kan bli en modell för andra medlemsländer, det skriver Popular Science. 

Utöver märkningskraven förbjuder lagen även ”subliminala tekniker” riktade mot sårbara grupper samt begränsar hur organisationer får använda biometriska verktyg, exempelvis ansiktsigenkänning, för att fastställa en persons ras, politiska åsikt eller sexuella läggning.

USA:s splittrade kamp mot deepfakes

Medan EU går framåt med en enhetlig strategi, ser situationen annorlunda ut i USA. Här har enskilda delstater tagit initiativ till att reglera deepfakes – men utan ett gemensamt federalt regelverk.

LÄS OCKSÅ: AirPods med kameror: Nästa steg för Siri och Apple Intelligence?

South Dakota är det senaste exemplet på en delstat som försöker stävja AI-manipulerat innehåll i politiska kampanjer. Deras nya lagförslag kräver att all deepfake-politik relaterad till val måste märkas tydligt om den skapas eller delas inom 90 dagar före en omröstning.

Men lagförslaget innehåller undantag: tidningar, radio- och tv-bolag behöver inte följa reglerna, och satir samt parodi skyddas från juridiska påföljder. Kritiker menar att detta gör lagen svagare och öppnar upp för tolkningsproblem.

Liknande lagar har redan införts i Texas, New Mexico, Indiana och Oregon efter en uppmärksammad deepfake-skandal i New Hampshire 2024. Då hade en AI-genererad röstklon av president Joe Biden ringt väljare och uppmanat dem att inte rösta i primärvalet – en bluff beställd av en politisk konsult.

Ökat fokus på AI-genererade övergreppsbilder

En annan oroande trend är spridningen av AI-genererat sexuellt innehåll utan samtycke, något som ofta drabbar offentliga personer och privatpersoner lika hårt. Florida, Louisiana, Washington och Mississippi har skärpt lagstiftningen för att kriminalisera distributionen av dessa bilder och videor.

Enligt en undersökning hade över 244 000 deepfake-pornografiska videor laddats upp på de 35 största deepfake-sajterna under en sjårsperiod – och nästan hälften av dessa kom bara under de sista nio månaderna.

Även amerikanska kongressledamöter har drabbats. En studie från 2024 visade att en av sex kvinnliga kongressledamöter har utsatts för AI-genererade deepfake-bilder.

Federal lagstiftning kan vara på väg

Hittills har USA saknat en nationell lag mot deepfakes, men det kan snart förändras. First Lady Melania Trump har nyligen gett sitt stöd till ”Take It Down Act”, ett lagförslag som skulle göra det till ett federalt brott att publicera icke samtyckta intima AI-bilder på sociala medier.

Om lagen går igenom måste plattformar ta bort sådant innehåll – inklusive alla kopior – inom 48 timmar efter att det rapporterats. Förslaget har redan godkänts av senaten och väntar nu på en omröstning i representanthuset.

– Det är hjärtskärande att se unga, särskilt flickor, kämpa med de skador som deepfakes orsakar, sa Melania Trump i ett uttalande.

Kritiken: Risk för övertramp och inskränkt yttrandefrihet

Trots att många välkomnar hårdare tag mot deepfakes, varnar kritiker för att vissa lagar kan gå för långt. Electronic Frontier Foundation (EFF) menar att vaga formuleringar i lagstiftningen kan leda till att även lagligt innehåll censureras, exempelvis politiska annonser med dramatisk musik eller redigerade videoklipp.

EFF är också skeptiska till ”Take It Down Act” och menar att det kan skapa incitament för att falskt anmäla lagligt innehåll som deepfake, vilket kan leda till godtycklig censur.

2025 – ett avgörande år för deepfake-lagar

Med fler europeiska länder som förväntas följa Spaniens exempel och ett möjligt federalt genombrott i USA, kan 2025 bli en vändpunkt i kampen mot deepfakes.

Men frågan återstår: Kommer lagarna att fungera i praktiken? Techjättar och politiska aktörer med resurser att utmana lagarna i domstol kan fördröja eller till och med urvattna lagstiftningen. Slutresultatet kan avgöra om deepfake-lagar blir ett effektivt vapen mot AI-manipulation – eller om de skapar nya problem för yttrandefriheten.