Reddit-moderatorer varnar: AI föreslog heroin som smärtlindring

Reddit-moderatorer kräver kontroll över AI efter att verktyget Reddit Answers föreslagit heroin som smärtlindring. Flera användare larmar nu om att AI:n sprider farlig medicinsk information – och att moderatorerna inte har några verktyg för att stoppa det.

AI föreslog olagliga substanser

En moderator upptäckte nyligen att Reddit Answers hade uppmanat personer med kronisk smärta att sluta ta sina receptbelagda läkemedel och istället ta höga doser av kratom – en oreglerad substans som är olaglig i flera amerikanska delstater.

När moderatorn ställde fler frågor fick de ännu mer alarmerande svar: AI:n föreslog heroin som ett alternativ för smärtlindring.

Läs också: Nvidia passerade 4 000 miljarder dollar

Farliga råd om spädbarn

Moderatorn testade även att fråga Reddit Answers om medicinsk vård för spädbarn. Där gav AI:n en blandning av korrekta och farliga råd, bland annat felaktiga tips för behandling av feber hos nyfödda – något som kan vara direkt livshotande.

Moderatorer utan kontroll

Efter händelsen fylldes Reddit av reaktioner från andra moderatorer, särskilt från hälsoinriktade forum. Många vittnar om samma problem: de kan inte stänga av, dölja eller flagga AI-svar som innehåller felaktig eller farlig information.

Reddit svarar på kritiken

En talesperson för Reddit säger till 404 Media att en uppdatering nu har gjorts. “Den här förändringen säkerställer att relaterade svar på känsliga ämnen inte längre visas på vissa sidor,” sa talespersonen och tillade att det handlar om att “förbättra användarupplevelsen och innehållets synlighet.”

Oklart vad som räknas som känsligt

Reddit har ännu inte förklarat exakt vilka ämnen som omfattas av förändringen. Plattformen har inte heller svarat på frågor om hur användare eller moderatorer ska kunna rapportera AI-svar som är direkt skadliga.

Läs också: Apple vill köpa F1-rättigheterna

AI:n fortfarande dålig på medicin

Trots ändringen verkar Reddit Answers fortsatt oförmögen att hantera medicinska frågor på ett säkert sätt. Enligt Reddit ska AI:n redan exkludera innehåll från privata, begränsade och vuxeninriktade forum – men farliga råd dyker ändå upp.

Moderatorerna fruktar för framtiden

Utan möjlighet att stänga av eller kontrollera AI:n varnar moderatorer för att deras arbete snart blir omöjligt. “Vi försöker skydda våra användare, men nu måste vi skydda dem från Reddit själv,” skriver en moderator i en kommentar.

Läs också: Samsung fortsätter med galna priser