Metas AI-glasögon granskas efter avslöjande om privata klipp på skärmar i Kenya

En granskning visar att underleverantörer i Nairobi har kunnat se videoklipp som få skulle vilja dela med någon alls – samtidigt som många användare inte verkar förstå hur mycket som faktiskt skickas iväg.

Granskningen som satte igång larmet

I en gemensam granskning beskriver Svenska Dagbladet och Göteborgs-Posten hur dataannotatörer hos en underleverantör i Nairobi, Kenya, arbetar med material kopplat till Metas AI-funktioner i Ray-Ban-glasögonen. 

Enligt uppgifter från anställda och dokument som tidningarna tagit del av har de kunnat se allt från vardagliga miljöer till mycket känsliga och intima situationer. 

Det kan handla om naket, sex, toalettbesök, bankkort och andra detaljer som kan skada människor om det sprids. Enligt granskningen förekommer också klipp där personer i omgivningen tycks ovetande om att de filmas.

Så hamnar dina klipp hos människor du aldrig möter

Upplägget beskrivs som en del av “mänsklig granskning” för att förbättra AI:n: klipp och bilder används för att kontrollera att systemen tolkar ljud, miljöer och frågor på rätt sätt. 

I materialet ingår även transkriberingar där annotatörer bedömer hur glasögonens AI-assistent svarar på användarens frågor – och enligt granskningen kan frågorna röra allt från helt vardagliga saker till mörkare ämnen och grova formuleringar.

Tidningarnas test visar också att det i praktiken saknas ett enkelt sätt att säga nej till datadelning om man vill använda AI-funktionerna fullt ut, och att varningar om att undvika känslig information lägger ett tungt ansvar på användaren.

GDPR-frågan som kan bli Metas nästa huvudvärk

Eftersom Meta har sitt EU-högkvarter i Irland hamnar den tyngsta tillsynen ofta där. 

Efter avslöjandena har den irländska dataskyddsmyndigheten DPC krävt svar från Meta om hur uppgifterna hanteras och om persondata kan ha förts över till Kenya i den här typen av arbete, enligt Svenska Dagbladet. 

Det är en känslig punkt: GDPR ställer krav på tydlighet, laglig grund och kontroll när personuppgifter behandlas och förs utanför EU.

Vad den brittiska myndigheten ICO brukar kräva av AI-bolag

Den brittiska dataskyddsmyndigheten ICO har tidigare varit tydlig med att företag som använder användardata för att träna eller förbättra AI måste vara transparenta och ge människor verklig information och kontroll. 

I ett tidigare uttalande om Metas AI-träning i Storbritannien betonade ICO just kravet på tydlighet och att användare ska förstå hur deras data används.

Det här kan du göra om du använder smarta glasögon

Om du redan har Ray-Ban Meta-glasögon – eller funderar på att köpa – är de praktiska riskerna ganska konkreta:

• Undvik att använda AI-funktioner i situationer där känslig information kan synas eller höras (koder, betalning, vårdbesök, privata samtal).
• Var extra försiktig i miljöer där andra kan filmas utan att förstå det.
• Läs igenom integritetsinställningar och villkor, och kontrollera om det finns möjligheter att begränsa delning eller lagring.

Vad händer nu

Avslöjandet sätter press på Meta på två fronter: dels hur bolaget informerar användare om att människor kan granska materialet, dels hur dataflöden och underleverantörer säkras när materialet är så personligt. 

När tillsynsmyndigheter börjar ställa frågor brukar det sällan handla om enstaka klipp – utan om system, rutiner och om användare faktiskt har fått en ärlig chans att förstå vad de går med på.