Kina skärper reglerna: AI-innehåll måste märkas på sociala medier

Märkningarna rullas ut på flera plattformar

Användare i Kina möts nu av etiketter som tydligt visar när text, bild, ljud eller video har skapats med hjälp av generativ AI. Enligt South China Morning Post måste inte bara innehållet märkas synligt, utan även metadata innehålla vattenstämplar eller andra digitala identifierare.

På WeChat uppmanas användare att själva märka upp sitt AI-material. De förbjuds också att ta bort eller manipulera de etiketter som plattformen automatiskt lägger till.

Douyin och Weibo tar till hårdare verktyg

Douyin – den kinesiska versionen av TikTok – har meddelat att alla inlägg med AI-innehåll ska märkas. Samtidigt använder företaget metadata för att själva kunna upptäcka när material skapats med AI.

Weibo har i sin tur infört en rapporteringsfunktion där användare kan anmäla innehåll som borde vara märkt men inte är det.

Fyra myndigheter bakom lagen

Den nya lagen har tagits fram av flera myndigheter, bland annat Kinas internetregleringsmyndighet Cyberspace Administration of China (CAC), Kommunikationsministeriet, Inrikesministeriet och den statliga radio- och tv-myndigheten.

Lagen presenterades tidigare i år och trädde i kraft i måndags. Syftet är att skapa ordning i den snabbt växande mängden AI-genererat material och förhindra att falsk eller skadlig information sprids.

Internationell trend – även USA testar märkningar

Kina är inte ensamt om att ta steg i denna riktning. I USA börjar flera företag införa liknande lösningar. Google har till exempel byggt in C2PA-certifiering direkt i kameran på sina nya Pixel 10-telefoner, vilket gör det möjligt att identifiera och märka AI-genererat material redan från start.

Tydligare gräns mellan äkta och AI

Förhoppningen är att de nya reglerna ska göra det lättare för användare att förstå vad som är verkligt och vad som är AI-genererat. På så sätt hoppas myndigheterna kunna minska risken för vilseledande innehåll och stärka förtroendet för digitala plattformar.