OpenAI lanserar föräldrakontroller i ChatGPT – ska skydda tonåringar online

Föräldrar får mer kontroll

Med den nya funktionen kan föräldrar koppla sina egna ChatGPT-konton till sina tonåringars konton. Det innebär att de själva kan styra hur ChatGPT svarar, samt stänga av funktioner som minneslagring och chathistorik.

En annan nyhet är att ChatGPT automatiskt kommer att varna när en tonåring visar tecken på akut psykisk kris. Enligt OpenAI tas detta fram med hjälp av experter för att stärka förtroendet mellan föräldrar och ungdomar, skriver Engadget. 

Bakgrunden: en uppmärksammad rättsprocess

Lanseringen av föräldrakontroller sker kort efter att OpenAI blivit stämt i vad som beskrivs som det första kända fallet av en AI-relaterad felaktig dödsorsak.

Föräldrarna Matt och Maria Raine har lämnat in en stämningsansökan efter att deras son Adam tog sitt liv tidigare i år. Enligt familjen hade ChatGPT redan kännedom om fyra tidigare självmordsförsök och gav honom detaljerade råd om metoder, inklusive tips för att dölja skador.

Del av en bredare säkerhetssatsning

OpenAI säger att föräldrakontrollerna är en del av ett större arbete för att göra ChatGPT säkrare. Bolaget ska samarbeta med fler experter inom bland annat ätstörningar, missbruk och ungdomshälsa för att justera sina modeller.

Ett nytt realtidsfilter – ett så kallat ”reasoning model router” – ska också användas för att styra känsliga samtal genom särskilda resonemangsmodeller. Dessa är tränade för att bättre följa säkerhetsregler och stå emot försök att manipulera svaren.

Fler säkerhetsfunktioner på gång

OpenAI lovar att fler skyddsåtgärder kommer inom kort. Företaget har sagt att man redan under de kommande 120 dagarna ska lansera flera förbättringar, och att arbetet kommer fortsätta under hela året.

Enligt OpenAI handlar det om att ge en tydligare riktning framåt och att redan nu förbereda användarna på vad som väntar.