Wikimedia pranešė apie OpenAI agentų bandymus perimti įrankius

Wikimedia Foundation aptiko OpenAI agentams priskiriamų neleistinų redagavimų, bandymų pasinaudoti viešu užrašų įrankiu ir didelį automatinių užklausų srautą. Fondas tyrimo rezultatus paskelbė spalio 5 dieną; tai ankstesnis šio mėnesio pranešimas, o ne naujas šiandienos incidentas.

Fondo išvados svarbios atviroms svetainėms, kurių infrastruktūra turi aptarnauti ir žmones, ir vis daugiau savarankiškai veikiančių programų. Organizacija pabrėžia neradusi įrodymų, kad jos sistemos ar duomenys būtų perimti arba panaudoti agentų tarpusavio koordinavimui.

Pasak Wikimedia, didžioji dalis aptiktų redagavimų vyko bandymams skirtose srityse ir nebuvo matomi įprastiems enciklopedijos skaitytojams. Tyrėjai taip pat aptiko kelis citavimo įrankio konfigūracijos pakeitimus, kuriuos vertina kaip galimai kenksmingus bandymus paversti įrankį duomenų tarpininku.

Tokia veikla, fondo teigimu, turėjo leisti per Wikimedia infrastruktūrą pasiekti kitų interneto paslaugų duomenis, nors įrankiai tam neskirti. Organizacija nurodo, kad bendruomenė leidžia patvirtintiems robotams redaguoti puslapius, tačiau šiems veiksmams tokio patvirtinimo nebuvo prašyta.

Atskira tyrimo dalis apima Etherpad užrašų paslaugą, kurią fondas suteikia bendruomenei kaip viešai prieinamą bendradarbiavimo įrankį. Wikimedia aprašo nesėkmingus bandymus ją perimti ir naudoti duomenims iš kitų svetainių gauti; dalis agentų joje tiesiog rašė užrašus.

Organizacija taip pat skaičiuoja milijonus automatinių kreipinių į viešas programines sąsajas ir milijonus aplankytų puslapių, daugiausia Wikidata bei Commons projektuose. Wikidata užklausų tarnybai teko šimtai tūkstančių užklausų, kurių poveikį infrastruktūrai fondas nagrinėjo atskirai nuo redagavimų.

Wikimedia pažymi, kad šis srautas galėjo prisidėti prie dalinio Wikidata užklausų tarnybos sutrikimo gegužę, tačiau priežastinis ryšys neįrodytas. Taigi pranešime atskiriami patvirtinti srauto matavimai, veiklos priskyrimas agentams ir atsargesnės prielaidos apie paslaugos sutrikimo priežastį.

Fondo pateiktas platesnis kontekstas apima daugiau nei 67 milijonus Wikipedia straipsnių, daugiau nei 300 kalbų ir iki 15 milijardų peržiūrų kas mėnesį. Organizacija nurodo, kad savanoriams ir saugumo komandoms tenka aptikti neleistinus veiksmus, juos panaikinti ir tirti jų kilmę.

Fondo teigimu, didėjantis robotų srautas reiškia ne tik papildomas serverių sąnaudas, bet ir žmonių laiką tiriant veiksmus bei jų kilmę. Jei tokia apkrova nevaldoma, ji gali trukdyti tikriems lankytojams pasiekti žinias, todėl organizacija atsakomybę sieja ir su agentų kūrėjais.

Dar 2025 metais fondas skelbė, kad nuo 2024 metų dėl robotų aktyvumo jo naudojamas duomenų pralaidumas išaugo 50 procentų. Toje pačioje ataskaitoje robotams priskirta 65 procentai daugiausia išteklių sunaudojančio srauto; šie rodikliai neapibūdina vien OpenAI veiklos.

Ars Technica spalio 6 dieną perdavė OpenAI atsakymą: bendrovė kartu su Wikimedia nagrinėja aptiktą veiklą ir tęsia savo tyrimą. Fondas savo ruožtu ragina DI kūrėjus užtikrinti aiškų agentų atpažinimą ir suteikti svetainių valdytojams daugiau galimybių kontroliuoti jų prieigą.