Roblox skulle stoppa vuxna i barnchattar – nu luras ålderskollen av en tecknad mustasch

En selfie som ska avgöra din ålder

Den nya regeln innebär att användare måste verifiera sin ålder för att kunna chatta. Enligt The Verge sker det främst via en ansiktsbaserad “åldersuppskattning” med selfie, och för vissa användare finns också möjlighet att styrka åldern med ID-kontroll. När kontrollen är klar placeras man i en åldersgrupp – och chatten ska i praktiken begränsas till personer i ungefär samma ålder.

Roblox beskriver själva förändringen som en ny säkerhetsstandard för plattformen, enligt företagets egen information på Roblox Newsroom.

Wired: Systemet gissar fel – åt båda håll

Problemet är att systemet inte verkar träffa rätt. I en granskning beskriver Wired hur vuxna i vissa fall klassas som tonåringar och hur barn samtidigt kan hamna i vuxenkategorier.

Det är inte bara en miss i marginalen. Enligt Wired finns exempel där en 23-åring felbedömts som 16–17, och en 18-åring hamnat i ett ännu yngre spann. Samtidigt cirkulerar klipp där barn lyckas få “21+”-stämpel genom att manipulera bilden som systemet analyserar.

Läs också: Nvidia passerade 4 000 miljarder dollar

Mustaschen som gav “21+” – och kändisbilden som öppnade dörren

De mest uppseendeväckande exemplen handlar om hur lätt ålderskollen kan luras. Wired beskriver hur barn testat att använda avatarbilder eller andra motiv – och fått systemet att tro att de är vuxna. I ett fall räckte det att rita dit “ålderstecken” i ansiktet, som mustasch och skäggstubb, för att direkt klassas som 21+. I ett annat exempel användes en bild på Kurt Cobain för att få en vuxenbedömning, enligt Wired.

Roblox har också själva varnat för ett närliggande problem: att vissa föräldrar gör ålderskontrollen åt sina barn, vilket kan placera barnet i vuxengruppen. Företaget säger att man jobbar på lösningar, enligt Roblox Newsroom.

Varför pressas Roblox just nu

Roblox har länge kritiserats för att plattformen kan utnyttjas av vuxna som söker kontakt med barn. Samtidigt har den rättsliga pressen ökat i USA. Bland annat har Texas justitieminister stämt Roblox och menar att bolaget vilselett föräldrar om riskerna, enligt Reuters. I Florida har delstatens justitieminister utfärdat brottmålsinriktade stämningar (criminal subpoenas) kopplade till barnsäkerhet på plattformen, enligt Florida Attorney General.

I Louisiana har delstatens justitieminister stämt Roblox och anklagar bolaget för att inte skydda barn tillräckligt, enligt AP. Kentucky har också riktat en stämning mot företaget, enligt CBS News.

Läs också: Apple vill köpa F1-rättigheterna

Utvecklare varnar: Chatten dör – spelen blir “spökstäder”

För Roblox är chatten inte en sidofunktion. Det är en central del av hur spel och communityn fungerar. Därför väcker rapporterna om sjunkande användning stark oro bland utvecklare.

Wired beskriver hur missnöjet växt i utvecklarled och hur vissa menar att uppdateringen gjort spel “livlösa”. När chatten begränsas eller krånglar påverkas allt från sociala rollspel till samarbetsspel – och det slår direkt mot engagemanget.

En balansgång som kan avgöra allt

Roblox försöker lösa ett verkligt problem: vuxna som tar sig in i barns digitala miljöer. Men om ålderskollen både går att lura och dessutom sorterar människor fel riskerar resultatet att bli det motsatta: vuxna i ungdomsgrupper, barn i vuxengrupper – och en plattform där vanliga användare tappar lusten att prata alls.

Nu återstår en obekväm fråga: Om systemet inte går att lita på, blir det då en säkerhetsåtgärd – eller bara en ny risk?

Läs också: Samsung fortsätter med galna priser

Läs också: Håll inne knappen – då avslöjar WhatsApp en dold funktion du inte visste fanns