Apple hotar att ta bort Musks Grok-app i deepfake-konflikt

Apple ingrep efter rapporter om att Elon Musks AI-verktyg Grok användes för att skapa explicita falska bilder av verkliga personer, vilket väcker nya frågor om hur snabbt sådan teknik kan missbrukas.

Händelsen understryker ett växande tryck på teknikplattformar och appbutiker att agera i takt med att AI-genererat innehåll sprids snabbare än skyddsåtgärderna hinner med.

Användarskador i fokus

Kontroversen intensifierades efter att fall uppdagades där personer blivit utsatta för manipulerade bilder.

Läs också: Nvidia passerade 4 000 miljarder dollar

Enligt The Independent uppgav en 22-årig kvinna att hon utsattes för mer än 100 redigerade bilder av sig själv inom några dagar, inklusive en där hon hade blivit digitalt avklädd.

Rapporter som citeras av AOL uppger att vissa bilder var sexualiserade och påstås ha skapats utan samtycke, samtidigt som det även finns oro för att minderåriga kan ha avbildats.

Apple agerar

Efter klagomål och medieuppmärksamhet kontaktade Apple teamen bakom X och Grok, enligt ett brev som AOL tagit del av.

Lagstiftare i USA hade också uppmanat Apple och Google att agera, vilket ökade det politiska trycket.

Läs också: Apple vill köpa F1-rättigheterna

Apple uttryckte oro över att appens hantering av innehåll kan strida mot App Stores regler, som begränsar störande eller skadligt material.

Konflikt i appgranskning

En uppdaterad version av Grok avvisades initialt i Apples granskningsprocess.

”Som ett resultat av detta avvisade vi Grok-inlämningen och meddelade utvecklaren att ytterligare ändringar krävs för att åtgärda överträdelsen, annars kan appen tas bort från App Store,” stod det i meddelandet.

Efter ytterligare ändringar godkändes senare en reviderad version, medan X fortsatt var tillgänglig trots att samma AI-teknik var integrerad.

Läs också: Samsung fortsätter med galna priser

Större sammanhang

Deepfakes har blivit ett allt större fokus för regulatorer, där myndigheter i ökande grad granskar hur AI-verktyg kan användas för att skapa vilseledande eller skadligt innehåll.

X uppgav att det har infört restriktioner och förbjuder ”användare att generera icke-samtyckesbaserade explicita deepfakes och att använda våra verktyg för att klä av verkliga personer digitalt”.

Fallet visar hur plattformar, utvecklare och appbutiker alla dras in i utmaningen att hantera snabbt utvecklande AI-teknik.

Källor: AOL, The Independent, NBC News, The Verge

Läs också: Håll inne knappen – då avslöjar WhatsApp en dold funktion du inte visste fanns

Läs också: Samsung Galaxy Z Fold7: Tunnare, starkare och snabbare