ChatGPT skärper kontrollen av unga användare med ny åldersbedömning

OpenAI har tagit ett nytt steg för att begränsa ungas tillgång till ChatGPT. En ny teknik för åldersbedömning ska avgöra om användare sannolikt är tonåringar och därefter automatiskt begränsa tillgången till vissa funktioner och innehåll.

Åtgärden markerar ett skifte i hur artificiell intelligens regleras. I stället för att enbart förlita sig på självrapporterad ålder försöker OpenAI nu aktivt bedöma användarnas ålder baserat på beteende och användarmönster.

Från självrapportering till algoritmisk bedömning

Tidigare har användare själva angett sin ålder vid registrering. Den metoden har länge kritiserats för att vara lätt att kringgå, särskilt bland yngre användare.

Läs också: Nvidia passerade 4 000 miljarder dollar

Med den nya lösningen analyserar systemet bland annat språkliga mönster och interaktioner för att avgöra om en användare sannolikt är under 18 år. Om systemet bedömer användaren som tonåring aktiveras strängare begränsningar automatiskt.

Ett svar på växande kritik

Beslutet kommer efter ökande press från politiker, föräldrar och experter. Oron handlar främst om hur generativ AI påverkar ungas psykiska hälsa, lärande och exponering för olämpligt innehåll.

Genom åtgärden vill OpenAI visa att bolaget tar ansvar och arbetar mer proaktivt med säkerhetsfrågor. Det kan också ses som ett sätt att förekomma striktare lagstiftning.

Risk för fel och gråzoner

Algoritmisk åldersbedömning är inte problemfri. System kan göra misstag och riskerar både att felaktigt begränsa vuxna användare och att missa minderåriga.

Läs också: Apple vill köpa F1-rättigheterna

Det väcker frågor om transparens, rättssäkerhet och användarnas möjlighet att ifrågasätta beslut. Samtidigt kan tekniken skapa debatt om integritet när användarbeteende analyseras mer ingående.

En möjlig ny standard för AI-tjänster

Om modellen visar sig fungera kan den få betydelse långt utanför ChatGPT. Andra AI-plattformar kan tvingas införa liknande lösningar för att skydda unga användare.

Det kan innebära början på en ny standard där ålderskontroll sker automatiskt och utan att användaren märker det.

En balans mellan skydd och tillgång

För OpenAI handlar utmaningen om att balansera skyddet av unga med fri tillgång till teknik. För strikta begränsningar kan hämma lärande, medan för lösa regler kan innebära risker.

Läs också: Samsung fortsätter med galna priser

Den nya ålderskontrollen visar att frågan om ansvarsfull AI inte längre bara handlar om teknik, utan även om etik, förtroende och samhällsansvar.

Kilder: Decrypt

Läs också: Håll inne knappen – då avslöjar WhatsApp en dold funktion du inte visste fanns