ENISA gavo Anthropic Mythos 5: Europa saugumo testams vėl vėluoja

ENISA ir Anthropic Mythos 5 istorija rodo paprastą problemą: kai galingi DI modeliai juda greitai, saugumo institucijos dažnai ateina paskui.

Euronews rašo, kad ES kibernetinio saugumo agentūra ENISA gavo prieigą prie Anthropic Mythos 5 praėjus trims mėnesiams po to, kai modelis buvo išleistas atrinktiems partneriams.

Trys mėnesiai technologijose kartais skamba nedaug. DI saugume tai gali būti visas sezonas.

KODĖL PRIEIGA SVARBI

Jei institucija turi vertinti modelio rizikas, jai reikia realios prieigos. Ne spaudos pranešimo, ne demo filmuko, o galimybės testuoti.

Ypač kai kalbama apie modelį, kuris gali turėti stiprių kibernetinių gebėjimų. Tokiu atveju klausimas ne tik „ką jis moka“, bet ir „kas jį galės panaudoti blogai“.

ENISA vaidmuo Europoje svarbus, nes kibernetinis saugumas jau seniai nebėra vien IT skyriaus rūpestis. Tai valstybės, verslo ir piliečių apsauga.

REGULIAVIMAS TURI BŪTI ARČIAU PRODUKTO

Europa mėgsta taisykles. Kartais pagrįstai, kartais per daug popieriaus. Bet DI atveju vien taisyklių neužtenka, jei tikrintojai prie produkto prieina per vėlai.

Saugumo bandymai turi vykti tada, kai modelis dar formuojamas ir leidžiamas rinkai, o ne po to, kai visi jau priprato juo naudotis.

Tai panašu į automobilio stabdžių testą po pirmo mėnesio keliuose. Gal ir geriau negu nieko, bet nervas vis tiek ima.

KĄ TAI REIŠKIA ĮMONĖMS

Įmonėms nereikia laukti, kol Briuselis už kiekvieną įrankį parašys instrukciją. Reikia turėti savo DI naudojimo taisykles.

Kas gali naudoti modelį? Su kokiais duomenimis? Kokius atsakymus privaloma tikrinti? Kokios užduotys negali būti perduodamos agentui be žmogaus peržiūros?

Jei šių klausimų nėra, įmonė ne diegia DI, o tiesiog įleidžia labai greitą praktikantą į serverinę. Skamba juokingai, kol nepradeda kainuoti.

FAQ

Kas yra ENISA?

ENISA yra Europos Sąjungos kibernetinio saugumo agentūra.

Kas yra Anthropic Mythos 5?

Tai Anthropic DI modelis, kurį Euronews apibūdina kaip vieną galingiausių technologijų su kibernetiniais gebėjimais.

Kodėl trijų mėnesių vėlavimas svarbus?

DI modeliai gali būti plačiai naudojami labai greitai, todėl saugumo testams reikia ankstyvos prieigos.

Šaltinis: Euronews.

Jei norite DI naudoti darbe be aklo pasitikėjimo, pradėkite nuo aiškių ribų. Praktinius šablonus ir tvarkas nagrinėjame MasterSprint.