ENISA gavo Anthropic Mythos 5: Europa saugumo testams vėl vėluoja
Euronews rašo, kad ES kibernetinio saugumo agentūra ENISA gavo prieigą prie Anthropic Mythos 5 praėjus keliems mėnesiams po modelio išleidimo partneriams. Saugumo testams laikas čia yra ne smulkmena.
Šiame straipsnyje · 4 dalys
- Kas yra Anthropic Mythos 5? Tai Anthropic DI modelis, kurį Euronews apibūdina kaip vieną galingiausių technologijų su kibernetiniais gebėjimais.
- Kodėl trijų mėnesių vėlavimas svarbus? DI modeliai gali būti plačiai naudojami labai greitai, todėl saugumo testams reikia ankstyvos prieigos.
ENISA ir Anthropic Mythos 5 istorija rodo paprastą problemą: kai galingi DI modeliai juda greitai, saugumo institucijos dažnai ateina paskui.
Euronews rašo, kad ES kibernetinio saugumo agentūra ENISA gavo prieigą prie Anthropic Mythos 5 praėjus trims mėnesiams po to, kai modelis buvo išleistas atrinktiems partneriams.
Trys mėnesiai technologijose kartais skamba nedaug. DI saugume tai gali būti visas sezonas.
Kodėl prieiga svarbi
Jei institucija turi vertinti modelio rizikas, jai reikia realios prieigos. Ne spaudos pranešimo, ne demo filmuko, o galimybės testuoti.
Ypač kai kalbama apie modelį, kuris gali turėti stiprių kibernetinių gebėjimų. Tokiu atveju klausimas ne tik „ką jis moka“, bet ir „kas jį galės panaudoti blogai“.
ENISA vaidmuo Europoje svarbus, nes kibernetinis saugumas jau seniai nebėra vien IT skyriaus rūpestis. Tai valstybės, verslo ir piliečių apsauga.
Reguliavimas turi būti arčiau produkto
Europa mėgsta taisykles. Kartais pagrįstai, kartais per daug popieriaus. Bet DI atveju vien taisyklių neužtenka, jei tikrintojai prie produkto prieina per vėlai.
Saugumo bandymai turi vykti tada, kai modelis dar formuojamas ir leidžiamas rinkai, o ne po to, kai visi jau priprato juo naudotis.
Tai panašu į automobilio stabdžių testą po pirmo mėnesio keliuose. Gal ir geriau negu nieko, bet nervas vis tiek ima.
Ką tai reiškia įmonėms
Įmonėms nereikia laukti, kol Briuselis už kiekvieną įrankį parašys instrukciją. Reikia turėti savo DI naudojimo taisykles.
Kas gali naudoti modelį? Su kokiais duomenimis? Kokius atsakymus privaloma tikrinti? Kokios užduotys negali būti perduodamos agentui be žmogaus peržiūros?
Jei šių klausimų nėra, įmonė ne diegia DI, o tiesiog įleidžia labai greitą praktikantą į serverinę. Skamba juokingai, kol nepradeda kainuoti.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
