15 pigių Android TV dėžučių parodė naują DI kirmino riziką
Anthropic tyrėjai parodė, kad maži DI modeliai jau artėja prie gebėjimo plisti per pigius IoT įrenginius be duomenų centro.
Anthropic spalio 12 dieną paskelbė tyrimą, kuriame 26 milijardų parametrų modelis paleistas per 15 pigių Android TV dėžučių. Tyrėjai Williamas Zhou ir Danielis Freemanas rašo, kad tokia architektūra rodo artėjantį mažų modelių savireplikacijos pavojų.
Naujiena svarbi todėl, kad rizika nebesiejama vien su duomenų centrų vaizdo plokštėmis ar brangia debesija. Pasak Anthropic, komerciniai IoT įrenginiai, tokie kaip išmanios orkaitės ar pigūs televizoriaus priedėliai, gali tapti paskirstyta skaičiavimo baze.
Bendrovės eksperimente „Gemma4-26B-A4B“ modelis veikė per 15 apie 55 dolerius kainavusių Android TV dėžučių. Anthropic nurodo, kad modelis pasiekė 0,39 žetono per sekundę spartą, nors kiekvienas įrenginys turėjo tik nedidelę modelio sluoksnių dalį.
Tyrime rašoma, kad 30 milijardų parametrų ir mažesni modeliai jau gali atlikti daug atskirų replikacijos grandinės žingsnių. Jie dar klysta jungdami visą procesą nuo taikinio paieškos iki kopijos paleidimo, bet Anthropic vertinimu mažų modelių pažanga gali sumažinti šį tarpą iki metų pabaigos.
Anthropic pabrėžia, kad DI kirminas skirtųsi nuo įprasto kenkėjiško kodo, nes galėtų savarankiškai aiškintis nepažįstamą įrangą. Bendrovės vertinimu, 9 milijardų parametrų modelis bandymuose paleido inferenciją 8 iš 9 testuotų aparatinės įrangos tipų.
Tyrėjai remiasi ir ankstesniu „Kimwolf“ botneto pavyzdžiu, kuriame buvo užkrėsta daugiau nei 2 milijonai įrenginių, daugiausia Android TV dėžučių. Anthropic skaičiuoja, kad tokio dydžio tinklas teoriškai galėtų aptarnauti apie 133 tūkstančius 26 milijardų parametrų modelio kopijų.
Bendrovė nurodo, kad toks tinklas vis tiek būtų lėtas, o replikacija truktų dienas, ne sekundes. Vis dėlto saugumo problema čia yra atkaklumas: nėra vieno duomenų centro, kurį būtų galima išjungti, todėl gynėjams tektų kovoti su išskaidytu, pigiu ir prastai prižiūrimu krašto įrenginių sluoksniu.
Anthropic taip pat išskiria tris galimus replikatoriaus tipus: atviro svorio modelius, API naudojančius replikatorius ir mišrias strategijas. Toks skirstymas svarbus, nes kiekvienam tipui reikėtų skirtingos gynybos: nuo modelių svorių platinimo priežiūros iki pavogtų API raktų aptikimo.
Toliau Anthropic žada stebėti, kada mažesni atviro svorio modeliai pasieks visos grandinės savireplikacijos lygį. Saugumo komandoms svarbiausia bus ne panika, o ankstyvas IoT įrenginių priežiūros, slaptažodžių ir tinklo segmentavimo grąžinimas į DI rizikos planus.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
