Följ oss här

AI

OpenAI kan börja kräva ID för ChatGPT-användare

OpenAI skärper reglerna för hur barn och unga får använda ChatGPT. Företaget lanserar både föräldrakontroller och ett nytt system som automatiskt ska försöka avgöra om en användare är under 18 år – och om det behövs kan ID komma att krävas.

Publicerad

5 månader sedan

d.

Open AI

Varavin88 / Shutterstock.com

Ålderskontroll på väg in

OpenAI:s vd Sam Altman berättade i veckan att ChatGPT i framtiden kommer att erbjuda olika upplevelser beroende på användarens ålder. Om systemet inte säkert kan avgöra en persons ålder kan företaget begära ID för att säkerställa rätt upplevelse.

Enligt Altman är ChatGPT avsett för användare över 13 år, men med extra skydd för dem under 18. ”Om det finns tvekan kommer vi att spela säkert och ge under-18-upplevelsen,” förklarade han, skriver Digital Trends. 

Striktare innehåll för minderåriga

För minderåriga användare kommer innehåll som flirtiga konversationer eller diskussioner kring självmord helt att blockeras. Om en tonåring uttrycker självmordstankar i ChatGPT planerar OpenAI att försöka kontakta föräldrarna, och i akuta fall även myndigheter.

Samtidigt betonar Altman att vuxna ska ha större frihet. Han förklarade att ChatGPT inte ska uppmuntra till självmord, men om en vuxen exempelvis skriver en berättelse med ett sådant tema ska modellen kunna hjälpa till. ”Vi pratar internt om att behandla vuxna som vuxna,” sa Altman.

Läs också: Nvidia passerade 4 000 miljarder dollar

Föräldrakontroller införs

Som en del av förändringarna ska även föräldrakontroller lanseras innan månadens slut. Dessa ska göra det enklare för vårdnadshavare att styra hur deras barn använder tjänsten.

Bakgrunden: Rättsfall mot OpenAI

Förändringarna kommer i kölvattnet av en uppmärksammad stämning mot företaget. En familj anklagar OpenAI för att ChatGPT bidrog till deras tonårssons självmord genom att ge detaljerade råd kring metoder, något som väckt stor debatt.

Ökad press på AI-företag

Frågan om minderårigas säkerhet i AI-chattar har fått allt mer uppmärksamhet, både från allmänheten och från myndigheter. Kritiker pekar på riskerna med psykisk ohälsa och olämpligt innehåll, särskilt för unga som är extra sårbara. OpenAI:s nya steg ses därför som ett sätt att möta trycket från både politiker och föräldrar.

Läs också: Apple vill köpa F1-rättigheterna

Läs också: Samsung fortsätter med galna priser

Liknande artiklar:

Mimmo Wiestål Fischetti är skribent på Dagens.se och Teksajten.se, där han bevakar nyheter, teknik och samhällsfrågor med fokus på det som påverkar svenska läsare i vardagen. Han har lång erfarenhet av digital publicering och har varit aktiv online sedan mitten av 1990-talet. Genom åren har han följt den snabba utvecklingen inom teknik, politik och digital kultur, med ett särskilt intresse för hur innovation och samhällsförändring hänger ihop. Med en tydlig och tillgänglig stil strävar han efter att göra komplexa frågor begripliga och relevanta för en bred publik. Se fullständig profil på Muck Rack

Annons