Brasilien kräver att Elon Musks X stoppar AI-manipulerade bilder från Grok

Brasilianska myndigheter har beordrat den sociala medieplattformen X att omedelbart blockera vissa AI-genererade bilder skapade via chatboten Grok. Beslutet kom efter att manipulerat bildmaterial spridits på plattformen och bedömts kränka personlig integritet.

Fallet belyser den växande problematiken kring deepfakes och det ansvar som teknikföretag har för innehåll som delas genom deras tjänster. Myndigheterna betonar att plattformar måste agera snabbt när artificiell intelligens används för att skapa och sprida kränkande material.

Domstol kräver omedelbara åtgärder

En brasiliansk domare har ålagt X att stoppa vidare spridning av det aktuella materialet. Beslutet riktar sig särskilt mot innehåll som genererats med Grok, AI-verktyget som är integrerat i plattformen som ägs av Elon Musk.

Läs också: Nvidia passerade 4 000 miljarder dollar

Enligt beslutet måste företaget införa tekniska lösningar som förhindrar delning och åtkomst. Underlåtenhet att följa kravet kan leda till ekonomiska sanktioner.

Deepfakes och regleringsansvar

Deepfakes är digitalt manipulerat innehåll som skapas med hjälp av artificiell intelligens och kan vara mycket realistiskt. Den snabba tekniska utvecklingen har skapat nya juridiska frågor kring ansvar och reglering.

Brasilianska myndigheter har under senare år skärpt tillsynen över digitala plattformar och ställt högre krav på innehållsmoderering. Denna åtgärd är en del av en bredare strategi för att begränsa missbruk av AI-teknik.

Ökat tryck på globala plattformar

Beslutet ökar pressen på X och andra plattformar som integrerar generativ AI i sina tjänster. Kombinationen av öppna sociala nätverk och avancerade AI-verktyg kan bidra till snabb spridning av manipulerat material.

Läs också: Apple vill köpa F1-rättigheterna

Hur X hanterar kravet från Brasilien kan få betydelse för framtida reglering av Grok och liknande AI-lösningar.

Kilder: Vanguard

Läs också: Samsung fortsätter med galna priser