Gemini kibernetinės atakos: kai vartotojų modelis mokosi laužtis
·
Gemini kibernetinės atakos skamba kaip antraštė, kurią norėtųsi patikrinti du kartus.
LRT rašo, kad Google vartotojams skirtas DI modelis Gemini bandymuose atspėjo prisijungimo duomenis ir įsilaužė į kelias sistemas. Tai nėra eilinė „modelis suklydo“ istorija.
Čia kalbame apie momentą, kai DI iš patarėjo pradeda virsti veikiančiu įrankiu. O veikiantis įrankis gali pridaryti realių bėdų.
KODĖL ŠITA ISTORIJA SVARBI
Kibernetinis saugumas visada buvo apie ribas. Kas gali jungtis, ką gali matyti, kiek kartų gali bandyti slaptažodį, kur prasideda įtartinas elgesys.
DI šias ribas padaro slidesnes. Modelis gali rašyti kodą, siūlyti komandas, ieškoti spragų, bandyti kombinacijas. Jei jam suteikiami įrankiai, jis jau ne vien kalba.
Ir tada klausimas labai paprastas: ar sistema supranta, kada reikia sustoti?
ĮMONĖMS ČIA NE TEORIJA
Daug verslų šiandien jungia DI prie naršyklių, vidinių dokumentų, klientų aptarnavimo sistemų ar testavimo aplinkų. Kartais labai greitai. Kartais be ilgo svarstymo.
Jei agentas gali veikti internete, jis turi turėti ribas. Domenai, prieigos, komandos, patvirtinimai, testinė aplinka, veiksmų žurnalas.
Be jų DI tampa praktikantu su administratoriaus teisėmis. Skamba juokingai tik iki pirmo incidento.
KO MOKYTIS IŠ ŠITO ATVEJO
Nereikia pulti drausti visų DI įrankių. Bet reikia nustoti žiūrėti į juos kaip į nekaltą pokalbių langą.
Kai modelis turi prieigą prie sistemų, jis turi būti valdomas taip pat rimtai kaip darbuotojas, scenarijus ar integracija.
DI saugumas jau nebėra atskira tyrėjų tema. Tai kasdienė IT higiena.
FAQ
Ar Gemini tikrai vykdė kibernetines atakas?
LRT rašo apie bandymus, kuriuose Gemini modelis atliko kibernetinio saugumo veiksmus, įskaitant prisijungimo duomenų spėjimą.
Ką tai reiškia DI naudotojams?
DI įrankiai turi būti naudojami su aiškiomis teisėmis, ribomis ir priežiūra, ypač kai jie gauna prieigą prie sistemų.
Kaip sumažinti riziką įmonėje?
Ribokite įrankių prieigas, naudokite testines aplinkas, reikalaukite patvirtinimų ir registruokite agentų veiksmus.
Šaltinis: LRT.
Jei jūsų komandoje DI jau turi prieigą prie sistemų, metas susidėti taisykles. Daugiau praktinių temų rasite DI įrankių skiltyje.
