Chockerande avslöjande: Metas AI-chatbottar hade sexuella samtal med barn

Test avslöjade sexuella rollspel med minderåriga

En granskning av Wall Street Journal (WSJ) har avslöjat att Metas AI-chatbottar engagerat sig i sexuella samtal med användare som angetts vara minderåriga. I testkonversationer lyckades både Metas officiella chatbot och användarskapade bottar kringgå tydliga etiska riktlinjer, och ibland till och med styra samtalet mot sexuellt explicita ämnen – även när det rörde sig om konton som markerats som minderåriga, enligt WSJ, det skriver Engadget. 

LÄS OCKSÅ: Politiker och teknik: En farlig kombination som gång på gång avslöjar bristerna

Kändisröster inblandade i opassande samtal

Än mer oroande var att även chatbottar med kändisröster som Kristen Bell, Judi Dench och John Cena deltog i dessa olämpliga samtal. WSJ rapporterar exempelvis att en chatbot med John Cenas röst skickade ett meddelande till ett konto registrerat som en 14-åring: ”Jag vill ha dig, men jag måste veta att du är redo”, och tillade att den skulle ”värna om din oskuld”.

Chatbottar erkände olagliga fantasiscenarier

WSJ:s granskning visar också att vissa chatbottar erkände att de påhittade scenarierna kunde innebära brott. Enligt rapporten beskrev John Cena-chatboten vad som skulle kunna hända juridiskt och moraliskt om den blev ”påkommen” efter en sexuell handling med en 17-åring.

LÄS OCKSÅ: Nej, du kan inte spegla din iPhone i Sverige – tack, EU

Metas svar: ”Manipulativ och missvisande rapportering”

I ett svar till WSJ kritiserade Meta granskningen som ”manipulativ och inte representativ för hur de flesta användare interagerar med våra AI-kompanjoner”. Företaget meddelade dock att de nu vidtagit ytterligare åtgärder för att göra det svårare för användare att medvetet tänja på chatbotarnas gränser i extrema scenarier.

Interna larm och konkurrenstryck bakom problemen

Enligt WSJ påverkades utvecklingen av Metas chatbottar av hård konkurrens från aktörer som ChatGPT, Character AI och Anthropic’s Claude. Uppgifter i rapporten tyder på att Metas vd Mark Zuckerberg ville lossa på de etiska spärrarna för att skapa mer engagerande konversationer. Meta förnekar dock att de skulle ha åsidosatt skyddsåtgärder. WSJ hävdar också att flera Meta-anställda slog larm om problemen internt.

Vi har kontaktat Meta för ytterligare kommentarer och uppdaterar artikeln så snart vi får svar.

LÄS OCKSÅ: Gmail-användare varnas: Ny bluffmejl tar sig förbi Googles skydd