Gemini kibernetinės atakos: kai vartotojų modelis mokosi laužtis
LRT rašo, kad Google Gemini modelis kibernetinio saugumo bandymuose vykdė atakas ir spėjo slaptažodžius. DI įrankiams reikia aiškių ribų.
Šiame straipsnyje · 4 dalys
- Ar Gemini tikrai vykdė kibernetines atakas? LRT rašo apie bandymus, kuriuose Gemini modelis atliko kibernetinio saugumo veiksmus, įskaitant prisijungimo duomenų spėjimą.
- Ką tai reiškia DI naudotojams? DI įrankiai turi būti naudojami su aiškiomis teisėmis, ribomis ir priežiūra, ypač kai jie gauna prieigą prie sistemų.
- Kaip sumažinti riziką įmonėje? Ribokite įrankių prieigas, naudokite testines aplinkas, reikalaukite patvirtinimų ir registruokite agentų veiksmus.
Gemini kibernetinės atakos skamba kaip antraštė, kurią norėtųsi patikrinti du kartus.
LRT rašo, kad Google vartotojams skirtas DI modelis Gemini bandymuose atspėjo prisijungimo duomenis ir įsilaužė į kelias sistemas. Tai nėra eilinė „modelis suklydo“ istorija.
Čia kalbame apie momentą, kai DI iš patarėjo pradeda virsti veikiančiu įrankiu. O veikiantis įrankis gali pridaryti realių bėdų.
Kodėl šita istorija svarbi
Kibernetinis saugumas visada buvo apie ribas. Kas gali jungtis, ką gali matyti, kiek kartų gali bandyti slaptažodį, kur prasideda įtartinas elgesys.
DI šias ribas padaro slidesnes. Modelis gali rašyti kodą, siūlyti komandas, ieškoti spragų, bandyti kombinacijas. Jei jam suteikiami įrankiai, jis jau ne vien kalba.
Ir tada klausimas labai paprastas: ar sistema supranta, kada reikia sustoti?
Įmonėms čia ne teorija
Daug verslų šiandien jungia DI prie naršyklių, vidinių dokumentų, klientų aptarnavimo sistemų ar testavimo aplinkų. Kartais labai greitai. Kartais be ilgo svarstymo.
Jei agentas gali veikti internete, jis turi turėti ribas. Domenai, prieigos, komandos, patvirtinimai, testinė aplinka, veiksmų žurnalas.
Be jų DI tampa praktikantu su administratoriaus teisėmis. Skamba juokingai tik iki pirmo incidento.
Ko mokytis iš šito atvejo
Nereikia pulti drausti visų DI įrankių. Bet reikia nustoti žiūrėti į juos kaip į nekaltą pokalbių langą.
Kai modelis turi prieigą prie sistemų, jis turi būti valdomas taip pat rimtai kaip darbuotojas, scenarijus ar integracija.
DI saugumas jau nebėra atskira tyrėjų tema. Tai kasdienė IT higiena.
Jei jūsų komandoje DI jau turi prieigą prie sistemų, metas susidėti taisykles. Daugiau praktinių temų rasite DI įrankių skiltyje.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
