Följ oss här

AI

OpenAI lanserar föräldrakontroller i ChatGPT – ska skydda tonåringar online

OpenAI förbereder en stor nyhet för ChatGPT: föräldrakontroller. Inom den närmaste månaden ska verktyget rullas ut och ge föräldrar större insyn i hur deras barn använder AI-chatten.

Publicerad

6 timmar sedan

d.

ChatGPT, AI

Shutterstock

Föräldrar får mer kontroll

Med den nya funktionen kan föräldrar koppla sina egna ChatGPT-konton till sina tonåringars konton. Det innebär att de själva kan styra hur ChatGPT svarar, samt stänga av funktioner som minneslagring och chathistorik.

En annan nyhet är att ChatGPT automatiskt kommer att varna när en tonåring visar tecken på akut psykisk kris. Enligt OpenAI tas detta fram med hjälp av experter för att stärka förtroendet mellan föräldrar och ungdomar, skriver Engadget. 

Bakgrunden: en uppmärksammad rättsprocess

Lanseringen av föräldrakontroller sker kort efter att OpenAI blivit stämt i vad som beskrivs som det första kända fallet av en AI-relaterad felaktig dödsorsak.

Föräldrarna Matt och Maria Raine har lämnat in en stämningsansökan efter att deras son Adam tog sitt liv tidigare i år. Enligt familjen hade ChatGPT redan kännedom om fyra tidigare självmordsförsök och gav honom detaljerade råd om metoder, inklusive tips för att dölja skador.

Läs också: Nvidia passerade 4 000 miljarder dollar

Del av en bredare säkerhetssatsning

OpenAI säger att föräldrakontrollerna är en del av ett större arbete för att göra ChatGPT säkrare. Bolaget ska samarbeta med fler experter inom bland annat ätstörningar, missbruk och ungdomshälsa för att justera sina modeller.

Ett nytt realtidsfilter – ett så kallat "reasoning model router" – ska också användas för att styra känsliga samtal genom särskilda resonemangsmodeller. Dessa är tränade för att bättre följa säkerhetsregler och stå emot försök att manipulera svaren.

Fler säkerhetsfunktioner på gång

OpenAI lovar att fler skyddsåtgärder kommer inom kort. Företaget har sagt att man redan under de kommande 120 dagarna ska lansera flera förbättringar, och att arbetet kommer fortsätta under hela året.

Enligt OpenAI handlar det om att ge en tydligare riktning framåt och att redan nu förbereda användarna på vad som väntar.

Läs också: Apple vill köpa F1-rättigheterna

Läs också: Samsung fortsätter med galna priser

Liknande artiklar:

Jag är skribent på Media Group Denmark och skriver för de svenska plattformarna Dagens.se och Teksajten.se. Under det senaste året på MGDK har jag fokuserat på nyheter, teknik och samhälle, med ett tydligt mål att göra komplexa ämnen begripliga för alla. Jag har varit aktiv online sedan 1995 och är fortfarande fascinerad av den ständigt föränderliga digitala världen – från ny teknik och politik till samhällsförändringar och nya sätt att berätta historier – Muck Rack

Annons