Project Glasswing plečiasi: DI jau ieško kritinių saugumo spragų
Project Glasswing plečiasi iki naujų organizacijų ir rodo, kad DI gali tapti rimtu kibernetinio saugumo įrankiu.
Šiame straipsnyje · 5 dalys
- Kiek spragų jau rasta? Anthropic teigia, kad partneriai rado daugiau nei 10 000 aukšto arba kritinio rimtumo spragų.
- Ar DI saugume yra rizika? Taip. Tie patys gebėjimai gali padėti ir gynėjams, ir puolėjams, todėl reikia saugiklių ir atsakingo naudojimo.
DI saugumo spragos tema tampa vis mažiau teorinė. Anthropic pranešė, kad plečia Project Glasswing – iniciatyvą, kurioje Claude Mythos Preview padeda organizacijoms tikrinti kodą ir ieškoti pavojingų pažeidžiamumų.
Čia jau ne „parašyk man gražų tekstą“. Čia DI žiūri į programinį kodą ir ieško vietų, per kurias gali įlįsti blogi žmonės.
Kas yra project glasswing?
Project Glasswing prasidėjo su maždaug 50 partnerių, kurie gavo prieigą prie Claude Mythos Preview ir naudojo modelį savo kodų bazėms tikrinti. Pasak Anthropic, partneriai jau rado daugiau nei 10 000 aukšto arba kritinio rimtumo saugumo spragų.
Dabar programa plečiama dar maždaug 150 organizacijų. Tarp jų – kritinės infrastruktūros, sveikatos, komunikacijų, vandens, elektros ir kitų sričių dalyviai.
Čia yra ta vieta, kur DI nauda labai aiški. Jei modelis padeda rasti skylę prieš ataką, jis sutaupo ne minutes. Jis gali sutaupyti milijonus.
Kodėl tai svarbu ne tik programuotojams?
Labai lengva galvoti, kad kibernetinis saugumas yra IT skyriaus rūpestis. Kažkur ten, rūsyje, prie serverių.
Bet jei neveikia mokėjimai, klientų portalas, gamybos sistema ar užsakymų valdymas, tai jau ne IT problema. Tai verslo problema.
Anthropic pabrėžia, kad daug naujų Glasswing partnerių prižiūri sistemas, nuo kurių priklauso milžiniškas kiekis žmonių. Kai tokios sistemos griūva, pasekmės būna ne gražios.
Di gali padėti ir puolėjams, ir gynėjams
Čia yra nemaloni dalis. Stiprūs DI modeliai gali padėti ne tik taisyti spragas. Jie gali padėti ir jas išnaudoti.
Todėl saugumo komandoms reikia ne laukti, kol viskas nusistovės, o mokytis dabar. Nes jei gynėjai naudos vakar dienos įrankius, o puolėjai rytojaus, rezultatas aiškus.
Kaip sporte. Jei varžovas treniruojasi kasdien, o tu žiūri motyvacinius video, finiše bus mažai romantikos.
Ką gali padaryti įmonė?
Net jei neturite Mythos klasės modelio, galite pradėti paprastai:
- peržiūrėti, kokį kodą ir sistemas tikrinate reguliariai;
- įtraukti DI į kodo peržiūras;
- naudoti DI dokumentacijai ir incidentų santraukoms;
- mokyti komandą atpažinti DI sukurtas rizikas;
- turėti aiškų procesą, kas daroma radus spragą.
Saugumas prasideda ne nuo panikos. Jis prasideda nuo ritmo.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
