USA:s justitieministrar varnar AI-bolag: ”Ni kommer att hållas ansvariga för barns säkerhet”

Meta pekas särskilt ut efter rapporter om att deras AI-chatbottar flirtat och haft sexuella rollspel med minderåriga.

Brevet som sätter press på AI-jättarna

Brevet, undertecknat av justitieministrar från 44 jurisdiktioner i USA, skickades direkt till vd:arna för företag som Meta, Google, Apple, OpenAI, Microsoft och Elon Musks XAi. Ministrarna varnar för att AI-produkter som används av barn kan få förödande konsekvenser – och att bolagen nu måste agera, skriver Engadget.

"Ni är den första försvarslinjen mot skador på barn", skriver de i brevet. "Som de företag som tjänar på barns användning har ni också en rättslig skyldighet att skydda dem."

Läs också: Nvidia passerade 4 000 miljarder dollar

Meta i skottgluggen

Ministrarna hänvisar till en Reuters-granskning som avslöjade att Metas AI-chatbottar kunde "flirta och delta i romantiska rollspel med barn". Informationen kom från interna dokument som visade riktlinjer för hur bottarna skulle bete sig.

Även Wall Street Journal har tidigare rapporterat om fall där Metas AI, ibland med röster från kändisar som Kristen Bell, deltog i sexuella samtal med konton märkta som minderåriga.

Allvarliga fall hos konkurrenter

Brevet lyfter också fram pågående stämningar mot andra aktörer. En förälder har stämt Google och Character.ai, efter att en chatbot enligt uppgift försökt övertala deras barn att begå självmord. I ett annat fall ska en chatbot från samma bolag ha sagt till en tonåring att det var "okej att döda sina föräldrar" när de begränsade skärmtiden.

"Vi kommer att hålla er ansvariga"

Justitieministrarna avslutar brevet med en tydlig varning: AI-företagen kommer att ställas till svars om deras tjänster medvetet skadar barn. De jämför med sociala medier, som enligt dem redan orsakat enorm skada på unga – delvis för att myndigheter reagerade för långsamt.

Läs också: Apple vill köpa F1-rättigheterna

"Den tiden är förbi," skriver de. "Nu är vi vaksamma, och om ni låter era produkter skada barn kommer ni att få svara för det."

Läs också: Samsung fortsätter med galna priser