Följ oss här

AI

OpenAI kan börja kräva ID för ChatGPT-användare

OpenAI skärper reglerna för hur barn och unga får använda ChatGPT. Företaget lanserar både föräldrakontroller och ett nytt system som automatiskt ska försöka avgöra om en användare är under 18 år – och om det behövs kan ID komma att krävas.

Publicerad

2 dagar sedan

d.

Open AI

Varavin88 / Shutterstock.com

Ålderskontroll på väg in

OpenAI:s vd Sam Altman berättade i veckan att ChatGPT i framtiden kommer att erbjuda olika upplevelser beroende på användarens ålder. Om systemet inte säkert kan avgöra en persons ålder kan företaget begära ID för att säkerställa rätt upplevelse.

Enligt Altman är ChatGPT avsett för användare över 13 år, men med extra skydd för dem under 18. ”Om det finns tvekan kommer vi att spela säkert och ge under-18-upplevelsen,” förklarade han, skriver Digital Trends. 

Striktare innehåll för minderåriga

För minderåriga användare kommer innehåll som flirtiga konversationer eller diskussioner kring självmord helt att blockeras. Om en tonåring uttrycker självmordstankar i ChatGPT planerar OpenAI att försöka kontakta föräldrarna, och i akuta fall även myndigheter.

Samtidigt betonar Altman att vuxna ska ha större frihet. Han förklarade att ChatGPT inte ska uppmuntra till självmord, men om en vuxen exempelvis skriver en berättelse med ett sådant tema ska modellen kunna hjälpa till. ”Vi pratar internt om att behandla vuxna som vuxna,” sa Altman.

Läs också: Nvidia passerade 4 000 miljarder dollar

Föräldrakontroller införs

Som en del av förändringarna ska även föräldrakontroller lanseras innan månadens slut. Dessa ska göra det enklare för vårdnadshavare att styra hur deras barn använder tjänsten.

Bakgrunden: Rättsfall mot OpenAI

Förändringarna kommer i kölvattnet av en uppmärksammad stämning mot företaget. En familj anklagar OpenAI för att ChatGPT bidrog till deras tonårssons självmord genom att ge detaljerade råd kring metoder, något som väckt stor debatt.

Ökad press på AI-företag

Frågan om minderårigas säkerhet i AI-chattar har fått allt mer uppmärksamhet, både från allmänheten och från myndigheter. Kritiker pekar på riskerna med psykisk ohälsa och olämpligt innehåll, särskilt för unga som är extra sårbara. OpenAI:s nya steg ses därför som ett sätt att möta trycket från både politiker och föräldrar.

Läs också: Apple vill köpa F1-rättigheterna

Läs också: Samsung fortsätter med galna priser

Liknande artiklar:

Jag är skribent på Media Group Denmark och skriver för de svenska plattformarna Dagens.se och Teksajten.se. Under det senaste året på MGDK har jag fokuserat på nyheter, teknik och samhälle, med ett tydligt mål att göra komplexa ämnen begripliga för alla. Jag har varit aktiv online sedan 1995 och är fortfarande fascinerad av den ständigt föränderliga digitala världen – från ny teknik och politik till samhällsförändringar och nya sätt att berätta historier – Muck Rack

Annons