OpenAI uždarė Rusijos ir Irano ChatGPT propagandos tinklus

OpenAI užblokavo dvi įtakos operacijas iš Rusijos ir Irano, kuriose ChatGPT naudotas netikriems žurnalistams ir propagandos tekstams kurti.

Euronews spalio 9 dieną, remdamasis OpenAI ataskaita, rašo, kad paskyros kūrė geopolitines žinutes apie karus Ukrainoje, Irane ir Artimuosiuose Rytuose. Tai svarbu, nes plačiai prieinami DI įrankiai leidžia pigiau gaminti ilgesnius tekstus, socialinių tinklų komentarus ir netikras viešas tapatybes.

Pasak Euronews, Irano operacijoje naudoti septyni netikrų žurnalistų profiliai, apsimetę Vakarų šalių autoriais. OpenAI teigė radusi beveik 100 straipsnių, paskelbtų arba perspausdintų maždaug dvylikoje nedidelių ir vidutinio dydžio interneto leidinių.

Bendrovės ataskaitoje nurodoma, kad ankstyviausias OpenAI rastas straipsnis pasirodė 2025 metų liepą, o naujausias buvo paskelbtas 2026 metų spalį. OpenAI taip pat rašė, kad publikacijų dažnis išaugo po šių metų JAV ir Irano karo pradžios.

Euronews pateikia vieną pavyzdį: personažas Ervin B. Hoskins prisistatė kaip amerikiečių laisvai samdomas autorius. OpenAI pateikti ekrano vaizdai rodė, kad X paskyra buvo susieta su „West Asia Android“ programėle, o Instagram skaidrumo informacija rodė ryšį su Iranu.

Rusijos operacija, pasak OpenAI, veikė kitaip. Ji, bendrovės vertinimu, pasitelkė Lotynų Amerikoje dirbusius žmones, kurie nežinojo, kad jų organizacija Social Research Center siejama su Rusijos grupe.

OpenAI šią schemą apibūdino kaip sudėtingiausią netikros tapatybės operaciją, kurią bendrovė sutrikdė per pastaruosius dvejus su puse metų. Euronews rašo, kad ji buvo nukreipta prieš Ukrainos reputaciją Lotynų Amerikoje ir vietos politines diskusijas.

Operatoriai, pasak OpenAI, naudojo ChatGPT vidaus ataskaitoms, socialinių tinklų įrašams, komentarams ir analizei rengti. Vienas pavyzdys buvo susijęs su lenkų kraštutinių dešiniųjų europarlamentaru Grzegorzu Braunu ir bandymais kurstyti ginčus dėl Lenkijos paramos Ukrainai.

OpenAI pabrėžė, kad šios operacijos nebuvo labai matomos plačiajai auditorijai, bet jų struktūra rodo kitą riziką. DI gali padėti mažoms grupėms atrodyti kaip platesniam autorių ir ekspertų tinklui.

Toliau bus svarbu, ar platformos, leidiniai ir valstybės institucijos turės bendrą būdą atpažinti tokias netikras tapatybes. OpenAI ataskaita parodo, kad problema jau nebėra vien atskirų melagingų tekstų klausimas.