TikTok kopplar shoppingtips till krigsbilder från Gaza

Algoritmen bakom funktionen

Den nya tekniken fungerar genom att skanna videor och identifiera objekt som kan kopplas till produkter i TikTok Shop. När en användare pausar en video dyker en liten ruta upp med texten ”Find Similar”. Där listas kläder och prylar som liknar det som syns i klippet.

Syftet är att skapa en sömlös koppling mellan innehåll och e-handel – men i praktiken har det lett till oväntade och olämpliga situationer, enligt The Verge.

Exempel från Gaza väcker kritik

The Verge beskriver en situation där en palestinsk kvinna i Gaza filmats medan hon letar efter försvunna familjemedlemmar bland ruinerna. Samtidigt föreslog TikToks algoritm klänningar med namn som ”Dubai Middle East Turkish Elegant Lace-Up Dress” och ”Women’s Solid Color Knot Front Long Sleeve Dress” – baserat på vad hon bar.

Kopplingen mellan en humanitär katastrof och shoppingreklam har väckt frågor om hur TikTok valt att implementera tekniken.

Begränsad lansering – ännu inte för alla

AI-funktionen testas just nu i begränsad omfattning och finns inte för alla användare. För att se om appen uppdaterats kan man pausa en video och kontrollera om rutan ”Find Similar” dyker upp.

Enligt The Verge har TikTok ännu inte svarat på frågor om hur de tänkt kring användningen av teknologin i känsliga sammanhang.

Etiska frågor kring AI och e-handel

Fallet sätter fingret på en större diskussion: hur långt kan företag gå i att kombinera sociala medier, AI och e-handel – utan att förlora kontakten med mänskliga värderingar? TikToks nya funktion kan vara ett steg mot en mer integrerad shoppingupplevelse, men exemplet från Gaza visar också riskerna med att låta algoritmer styra utan mänsklig eftertanke.