TikTok rekomendacijų algoritmą ES kaltina žalojant naudotojus

Europos Komisija preliminariai nustatė, kad TikTok rekomendacijų sistema nepakankamai saugo naudotojus nuo pasikartojančių vaizdo įrašų apie liūdesį, izoliaciją ir kūno įvaizdį. Lapkričio 6 dienos pranešime institucija tai įvardija galimu Skaitmeninių paslaugų akto pažeidimu, apimančiu rizikos vertinimą ir mažinimo priemones.

Komisijos paaiškinimu, suasmenintas „For You“ srautas pateikia vis daugiau panašių vaizdo įrašų, kai žmogus sąveikauja su tam tikros rūšies turiniu. Pasikartojimas, institucijos vertinimu, gali kenkti psichikos sveikatai, ypač pažeidžiamų suaugusiųjų ir nepilnamečių, net kai atskiras įrašas savaime neatrodo pavojingas.

Komisija nagrinėja vadinamąjį įtraukimo į turinio kilpą poveikį, o ne vien klausimą, ar konkretus vaizdo įrašas atitinka platformos taisykles. Oficialus pranešimas aiškiai susieja problemą su rekomendacijų sistemos veikimu, todėl tyrimo objektas yra ir turinio pateikimo seka bei jos pasikartojimas.

Institucija pažymi, kad nesibaigiantis panašaus turinio srautas gali apimti temas, susijusias su psichikos sveikatos sunkumais ir žmogaus požiūriu į savo kūną. Komisijos aprašoma rizika kyla iš to, kaip sistema sustiprina pradinę naudotojo sąveiką, o ne vien iš pradinio pasirinkimo peržiūrėti vaizdo įrašą.

The Record žurnalisto Alexander Martin teigimu, tyrėjai su psichologų, psichiatrų ir sistemų projektavimo specialistų pagalba išanalizavo maždaug 20 tūkstančių vaizdo įrašų. Leidinys taip pat nurodo, kad Komisija gavo TikTok vidaus dokumentų bei duomenų, tačiau konkrečių testavimo metodų viešai neatskleidė.

Pasak The Record, Komisija mano, kad turinio įvairinimas, srauto atnaujinimas ir mygtukas, kuriuo pažymimas nepageidaujamas turinys, nepakankamai nutraukia pasikartojančias rekomendacijas. Institucija siekia didesnio aiškiai išreikštų naudotojo pasirinkimų svorio, užuot rekomendacijas daugiausia grindus numanomais signalais, pavyzdžiui, žiūrėjimo trukme.

TikTok šias išvadas ginčija: bendrovės atstovas The Record teigė, kad Komisija netiksliai apibūdina platformos architektūrą ir įsipareigojimą saugoti naudotojus. Leidinio pateiktame atsakyme bendrovė pabrėžia savo saugumo priemones ir naudotojams suteiktą tiesioginę turinio valdymo galimybę, todėl pažeidimas kol kas nėra galutinai nustatytas.

The Record pažymi, kad tai jau trečios Komisijos preliminarios išvados dėl TikTok šiais metais, tačiau šio tyrimo dalykas skiriasi. Ankstesnės buvo susijusios su priklausomybę skatinančiu dizainu ir nepilnamečių paskyrų apsauga, o dabartinė byla tiesiogiai nagrinėja rekomendacijų parinkimo sistemą.

Oficialiame Komisijos paaiškinime išskiriama ir rizikos atpažinimo, ir priemonių jai mažinti pusė, todėl vien saugumo funkcijos egzistavimas klausimo neužbaigia. Institucijos vertinimas susijęs su tuo, ar reali turinio pateikimo tvarka pakankamai apsaugo būtent pažeidžiamus naudotojus nuo ilgalaikio panašių temų kartojimo.

The Record nurodo, kad TikTok dar galės susipažinti su Komisijos įrodymais ir juos ginčyti prieš institucijai priimant galutinį sprendimą. Jeigu pažeidimas būtų patvirtintas, platformai galėtų grėsti iki 6 procentų pasaulinių metinių pajamų bauda, tačiau tokia sankcija dabar nepaskirta.