OpenAI ska gissa användarnas ålder – risk för felbedömningar

Ett nytt åldersfilter rullas ut globalt

OpenAI är på väg att införa ett nytt verktyg som ska uppskatta användarnas ålder och avgöra om de är minderåriga. Syftet är att styra vilken typ av innehåll som blir tillgängligt i ChatGPT, uppger bolaget i ett uttalande.

Verktyget bygger inte på traditionell legitimation, utan på en samlad analys av hur ett konto används. Enligt OpenAI tittar modellen bland annat på hur länge kontot har funnits, vilka tider på dygnet användaren är aktiv, användningsmönster över tid samt den ålder användaren själv har uppgett.

Selfie krävs vid felbedömning

Om systemet bedömer en vuxen användare som minderårig finns det dock en möjlighet att överklaga. Då krävs att användaren laddar upp en selfie via åldersverifieringstjänsten Persona för att bevisa sin ålder, enligt OpenAI.

Liknande lösningar har nyligen införts av flera stora techbolag – ofta med blandade resultat. Andra plattformar har drabbats av både felklassificeringar och kritik kring integritet när användare tvingas dela biometriska uppgifter, skriver Engadget. 

Läs också: Nvidia passerade 4 000 miljarder dollar

Kritik mot reaktivt säkerhetsarbete

Bakgrunden till beslutet är bredare än bara ålderskontroll. AI-branschen har länge kritiserats för att lansera kraftfulla funktioner först – och hantera riskerna i efterhand. OpenAI har själva hamnat i fokus efter en uppmärksammad rättsprocess där bolaget kopplats till ett dödsfall bland en tonåring som uppges ha använt ChatGPT i samband med självmordsplanering.

Först månader senare började företaget införa automatiska begränsningar för unga användare och etablerade ett rådgivande råd för mental hälsa, enligt tidigare uttalanden från bolaget.

Förberedelse för ett ”vuxenläge”

Den nya åldersbedömningen ses som ett steg inför lanseringen av ett så kallat ”adult mode” i ChatGPT – ett läge där användare ska kunna skapa och ta del av innehåll som klassas som NSFW.

Men erfarenheter från andra plattformar, som Roblox, visar att tekniska spärrar ofta kan kringgås. Trots upprepade satsningar på barnsäkerhet har även Roblox haft återkommande problem med minderåriga som får tillgång till vuxet innehåll.

Läs också: Apple vill köpa F1-rättigheterna

Risk att spärrar rundas

Det är därför långt ifrån säkert att OpenAIs nya verktyg kommer att fungera som tänkt. Historien visar att unga användare som vill ta sig runt begränsningar ofta hittar vägar – särskilt på globala digitala plattformar.

Samtidigt väcker kravet på selfies och beteendeanalys nya frågor om integritet, datalagring och vem som egentligen har ansvar när tekniken gör fel.

Läs också: Samsung fortsätter med galna priser