Amerikanska tjänstemän avslöjar påstådd rysk ”botfarm”

Amerikanska tjänstemän säger att de har vidtagit åtgärder mot en AI-driven informationsoperation som körs från Ryssland, inklusive nästan 1 000 konton som utger sig för att vara amerikaner. Kontona på X var designade för att sprida pro-ryska berättelser men var automatiserade ”botar” – inte riktiga människor. I rättshandlingar som offentliggjordes på tisdagen sa det amerikanska justitiedepartementet att operationen skapades av en biträdande redaktör på Kreml-ägda RT, tidigare Russia Today.RT driver TV-kanaler på engelska och flera andra språk, men verkar mycket mer populär på sociala medier än på konventionella etern. Justitiedepartementet beslagtog två webbplatser som användes för att skicka ut e-postmeddelanden associerade med botkontona och beordrade X att lämna över information om 968 konton som utredarna säger var bots. Enligt domstolsdokumenten användes artificiell intelligens för att skapa kontona, som sedan spred pro-ryska berättelser, särskilt om kriget i Ukraina. ”Dagens handlingar representerar ett första steg i att störa en rysksponsrad generativ AI-förbättrad botfarm för sociala medier”, säger FBI-chefen Christopher Wray. ”Ryssland hade för avsikt att använda denna botfarm för att sprida AI-genererad utländsk desinformation, och skala deras arbete med hjälpen av AI för att undergräva våra partners i Ukraina och påverka geopolitiska berättelser som är gynnsamma för den ryska regeringen”, sade Wray i ett uttalande. Kontona verkar nu ha raderats av X, och skärmdumpar som delas av FBI-utredare visade att de hade väldigt få följare .Rättshandlingarna beskrev i detalj hur den så kallade ”botfarmen” var idén till en biträdande chefredaktör för RT som letade efter nya sätt att sprida berättelser. RT America stängdes ner när flera stora amerikanska kabel-tv-leverantörer lade ner det kort efter Rysslands invasion av Ukraina 2022. En annan RT-anställd utvecklade nätverket, enligt domstolsdokumenten, och senare anslöt sig en rysk underrättelsetjänst till ansträngningen, vilket justitiedepartementet beskrev som ett försök ”att så oenighet i USA genom att sprida desinformation”. Inga brottsanklagelser har offentliggjorts i fallet, men justitiedepartementet noterade att dess utredning pågår. Nina Jankowicz, chef för American Sunlight Project, en icke -vinstorganisation som försöker bekämpa spridningen av desinformation, sa att det inte var förvånande att en Rysslandslänkad operation förlitade sig på AI för att skapa falska konton. ”Detta brukade vara en av de mer tidskrävande delarna av deras arbete; nu har det blivit mycket smidigare av de teknologier som bidrog till den här operationen”, sa hon och noterade att operationen verkar ha omintetgjorts innan den fick draghjälp. “Artificiell intelligens är nu uppenbarligen en del av desinformationsarsenalen,” sa Jankowicz. BBC kontaktade X, RT och det ryska utrikesdepartementet för kommentarer. En nyligen genomförd BBC-undersökning avslöjade detaljer om ett separat försök att stärka ett Rysslandsbaserat desinformationsnätverk, genom användning av falska nyhetssajter befolkade av berättelser omskrivna av AI.