Meta ersätter människor med AI – riskbedömningar blir blixtsnabba men riskfyllda

AI tar över – snabbare men mer riskfyllt

Enligt interna dokument som NPR tagit del av, har Meta börjat förlita sig alltmer på AI i stället för mänskliga team för att bedöma risker med nya funktioner och uppdateringar på plattformar som Instagram och WhatsApp. Målet: att AI ska hantera 90 procent av alla riskbedömningar.

LÄS OCKSÅ: Slipp långa mejltrådar – Gmail visar nu automatiska sammanfattningar

Det nya systemet innebär att produktteam fyller i ett frågeformulär om sin funktion, som sedan analyseras av AI:n. Systemet ger direkt besked om potentiella riskområden – och utvecklarna måste därefter åtgärda problemen innan lansering.

Oro från tidigare anställda

Flera nuvarande och tidigare anställda säger till NPR att AI-besluten kan missa allvarliga risker, som mänskliga experter annars hade fångat upp. En före detta chef på Meta varnar för att mindre granskning i praktiken innebär större risker:
– Negativa effekter kommer inte att upptäckas förrän de redan påverkar samhället, säger hen till NPR.

LÄS OCKSÅ: Google Discover får nytt utseende – lyfter fram avsändaren tydligare

Meta svarar att människor fortfarande kommer att hantera ”nya och komplexa frågor”, medan AI får ta hand om ”lågriskbeslut”.

Färre borttagningar – mer hat och våld

Beslutet kommer bara dagar efter att Meta släppte sin senaste kvartalsrapport om integritet – den första sedan bolaget ändrade sin policy för innehållsmoderering tidigare i år. Rapporten visar att färre inlägg tas bort, samtidigt som våldsamt och trakasserande innehåll ökat något.

LÄS OCKSÅ: Apple rättar till en 25 år gammal detalj – ny knappdesign i M4 MacBook Air

Analys: Automatisering i gråzonen

AI kan vara effektivt för att snabba upp processer, men när det handlar om känsliga frågor som desinformation, hatretorik och ungas säkerhet blir riskerna betydligt större. Att automatisera det mänskliga omdömet är ett vågspel – och Meta verkar nu vara beredd att ta den risken.