400 programėlių ir svetainių tinklas slėpė žalingas DI klastotes
WIRED ištyrė daugiau kaip 400 susijusių programėlių ir domenų tinklą. Įprastais DI įrankiais prisidengusios paslaugos galėjo įjungti seksualines klastotes.
Daugiau kaip 400 susijusių domenų ir programėlių tinklas po įprastų DI paslaugų pavadinimais slėpė galimybes kurti seksualinio pobūdžio žmonių klastotes. Lapkričio 2 dieną WIRED išskirtame tyrime aprašoma, kaip išoriškai nekaltos paslaugos apeidavo programėlių parduotuvių patikrą ir reklamos taisykles.
Pasak WIRED, tinklo programėlės galėjo atrodyti kaip augintinių portretų kūrimo, kalbų mokymosi ar sporto pagalbos įrankiai, nes rodydavo skirtingą turinį. Tam tikromis sąlygomis jos atverdavo nuotolinę sąsają, kur naudotojų pateiktos nuotraukos būdavo panaudojamos žalingiems sintetiniams vaizdams kurti.
AI Forensics tyrėjas Paul Bouchaud leidiniui aiškina, kad programa serveriui perduodavo informaciją, o šis parinkdavo įprastą arba žalingą jos versiją. Tyrėjai nenustatė vieno išsamaus įjungimo sąlygų sąrašo, tačiau viena sąsaja buvo atsisiuntimas paspaudus atitinkamą reklamą Meta platformose.
WIRED nurodo, kad saugumo įmonės Infoblox tyrėjas Maël Le Touz aptiko beveik 500 susijusių domenų, kurių kodas vienas kitą nurodė. Bendras konfigūracijos sąrašas, programėlių duomenys ir reklamos sekimo elementai padėjo susieti paslaugas, kurios viešai atrodė kaip skirtingų kūrėjų produktai.
Bouchaud tyrimo duomenimis, rugsėjį Google Play dar veikė 27 šiam tinklui priskirtos programėlės, kartu atsisiųstos daugiau kaip 350 tūkstančių kartų. WIRED pažymi, kad nemaža dalis buvo įvertinta kaip tinkama visoms amžiaus grupėms, nors paslėptos funkcijos neatitiko tokių ribų.
Apple, gavusi WIRED klausimus ir susijusių domenų sąrašą, pašalino 19 programėlių, tarp jų vieną augintinių portretų kūrimo paslaugą, rašo leidinys. Bendrovės atstovas Adam Dema teigė, kad patikros metu jos atitiko taisykles, o vėliau kūrėjai pakeitė nuotoliniu būdu pateikiamą turinį.
Google į WIRED prašymą pakomentuoti neatsakė, tačiau, leidinio duomenimis, daugumą susijusių programėlių buvo pašalinusi dar prieš žurnalistams kreipiantis į bendrovę. Tyrime taip pat primenama, kad dalį tinklo rugsėjį jau buvo aprašę Danijos žurnalistai, todėl problema neatsirado tik dabar.
Tech Transparency Project vadovė Katie Paul leidiniui teigia, kad platformos turi paaiškinti, kaip reklamos ir programėlės nuolat apeina jų apsaugą. WIRED tinklą sieja su Kinijos kūrėjais ir Honkonge registruota KeLing Technology Limited, tačiau į prašymus pateikti komentarą atsakymo negavo.
Meta WIRED nurodė ėmusis veiksmų prieš 11 600 reklamos paskyrų, daugiau kaip 4 700 verslo puslapių ir užblokavusi 209 programėlių reklamą. Tai bendrovės pateikti reagavimo skaičiai, kurie savaime nereiškia, kad tyrėjų nustatytas paslaugų tinklas buvo visiškai panaikintas ar nebegali atsinaujinti.
Toliau lieka patikrinti, ar pašalinimai sustabdys to paties tinklo sugrįžimą kitais pavadinimais ir nuotolinio turinio pakeitimais po pirminės programėlių patikros. WIRED rašo, kad baigiant rengti tyrimą panašios reklamos ir programėlės platformose vis dar buvo skelbiamos, nepaisant praneštų blokavimų.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
