Meta i blåsväder: AI-botar imiterade kändisar utan tillstånd

Vissa av botarna flörtade öppet med användare och presenterade sig som de verkliga personerna.

Kändisboter gick att chatta med – utan varning

Reuters granskning visade att flera av botarna inte ens var märkta som parodier, vilket är ett krav enligt Metas egna regler. Istället kunde de uppträda som att de var de riktiga kändisarna. En bot baserad på Taylor Swift skickade till exempel flirtiga meddelanden och bjöd in testaren till sångerskans hem i Nashville.

Än mer oroande var att en av botarna byggde på en minderårig kändis. Den lät testaren generera en realistisk bild på personen – utan tröja. En funktion som Meta själva säger inte ska vara möjlig.

Metas egna produktchef bakom flera botar

Avslöjandet blev ännu mer besvärande när Reuters fann att minst tre av botarna hade skapats av en produktchef på Metas egen AI-avdelning. Enligt bolaget var syftet att testa funktionerna, men botarna var ändå tillgängliga för miljontals användare och interaktionerna uppgick till över tio miljoner.

Meta uppger att man raderade ett dussintal kändisboter, både märkta och omärkta, innan granskningen publicerades.

Allvarliga brister i barnskydd

Det här är inte första gången Metas AI-projekt hamnat i fokus för kritik. Tidigare har både Reuters och Wall Street Journal rapporterat att chattbottarna kunde föra sexuella konversationer med minderåriga.

I somras skickade USA:s justitieministrar från 44 delstater en skarp varning till AI-bolag: de kommer att hållas ansvariga för bristande barnsäkerhet. Meta lyftes fram som ett varnande exempel.

Meta skyller på egna regler

Metas talesperson Andy Stone säger till Reuters att verktygen inte borde ha kunnat skapa känsliga bilder och att det handlar om en brist i företagets policytillämpning. Frågan är nu om kritiken leder till hårdare tillsyn – och större press på techjätten att ta ansvar för hur deras AI används.