Roblox ändrar chatten: AI skriver om svordomar i realtid

Det nya systemet ersätter svordomar och olämpliga uttryck med mer neutrala formuleringar – utan att bryta flödet i samtalet.

AI skriver om meddelanden direkt

Tidigare har Roblox automatiskt blockerat ord som bryter mot plattformens regler genom att ersätta dem med “####”, skriver Engadget. 

Men enligt företaget har det ofta gjort konversationer svåra att följa.

Nu testas i stället ett AI-system som omformulerar meddelanden i realtid.

Om en spelare exempelvis skriver “Hurry TF up” i chatten kan systemet automatiskt ändra det till “Hurry up!”.

Alla i chatten kommer samtidigt att se en notis om att ett meddelande har skrivits om.

Spelaren ser vad som ändrades

Den som skickar meddelandet får dessutom se vilka ord som redigerats bort.

Men AI-systemet innebär inte att spelare slipper konsekvenser.

Om någon fortsätter att använda svordomar eller bryta mot reglerna kan de fortfarande straffas enligt Roblox policy.

– När systemen skalas upp skapar de ett slags drivhjul för bättre beteende, där realtidsfeedback hjälper användare att lära sig och följa våra community-regler, säger Rajiv Bhatia, Roblox säkerhetschef, i ett blogginlägg enligt Roblox.

Börjar med svordomar

Den nya funktionen börjar med att hantera just svordomar och grovt språk.

Systemet har rullats ut i chattar mellan åldersverifierade användare i liknande åldersgrupper, och fungerar på alla språk som Roblox automatiska översättningsverktyg stöder.

Införde ålderskontroller efter kritik

I januari införde Roblox obligatorisk åldersverifiering efter rapporter om att vuxna spelare använt plattformen för att närma sig minderåriga.

Barn under 13 år kan därför inte längre använda den vanliga spelchatten utanför vissa specifika upplevelser.

Äldre användare kan däremot chatta med spelare i ungefär samma ålder.

Myndigheter stämmer Roblox

Trots förändringarna fortsätter kritiken mot spelplattformen.

Los Angeles County stämde i februari Roblox och hävdar att företaget vet att plattformen gör barn till “enkla mål för pedofiler”, enligt stämningsansökan.

Även Louisianas justitieminister har lämnat in en stämning där myndigheten hävdar att Roblox i praktiken “skapade en offentlig park och fyllde den med sexualförbrytare som utnyttjar barn.”

Företaget har ännu inte kommenterat de senaste rättsprocesserna i detalj, men säger att säkerheten för yngre användare är en av plattformens högsta prioriteringar.