OpenAI stänger misstänkt ryskt propagandanätverk som utnyttjade AI

OpenAI uppgav att bolaget har stängt en grupp ChatGPT-konton som påstås vara kopplade till en rysk påverkansoperation och därmed nekat dem tillgång till sina AI-verktyg.

Åtgärden beskrevs i en bolagsrapport som redogör för hur modellerna användes för att stödja samordnad nätaktivitet.

Innehållsfabrik-taktik

I rapporten från den 26 februari, “Disrupting malicious uses of our models,” beskrev OpenAI en fallstudie med kodnamnet “Fish Food” som rörde konton kopplade till det ryska projektet “Rybar.”

Läs också: Nvidia passerade 4 000 miljarder dollar

Enligt bolaget använde nätverket ChatGPT för att skapa inlägg på ryska, engelska och spanska. En del av innehållet publicerades senare via konton under namnet “Rybar.”

OpenAI uppgav att mönstret liknade en innehållsfabrik för bred spridning. I ett exempel genererade en enda prompt sju utkast, varav sex senare publicerades via olika X-konton.

Afrika-fokuserad planering

Rapporten uppgav att huvudkontot också använde ChatGPT för att ta fram förslag och beskriva påverkansinsatser.

Detta inkluderade att översätta en lista över tjänster till engelska, såsom hantering av X- och Telegram-konton samt drift av en tvåspråkig granskande webbplats med fokus på Afrika.

Läs också: Apple vill köpa F1-rättigheterna

Planeringsdokument hänvisade till betalda placeringar i franskspråkiga medier, uppbyggnad av förstärkningsnätverk och valrelaterade strategier i länder som Demokratiska republiken Kongo, Burundi, Kamerun och Madagaskar. Ett förslag hade en uppskattad årlig budget på upp till 600.000 dollar.

Tillgång återkallad

OpenAI uppgav att kontona kopplade till “Rybar”-nätverket har stängts och att relevanta indikatorer har delats med andra företag och berörda aktörer för att begränsa vidare spridning av materialet.

Avslöjandet understryker bredare oro kring missbruk av generativ AI i samordnade påverkansoperationer, inklusive användning av syntetiskt material och identitetsförfalskning.

Källor: OpenAI, rapport 26 februari

Läs också: Samsung fortsätter med galna priser

Läs också: Håll inne knappen – då avslöjar WhatsApp en dold funktion du inte visste fanns