Meta Muse spraga: kai DI asistentas gauna per daug teisių
·
Meta Muse spraga skamba techniškai, bet pamoka labai žemiška: kuo daugiau teisių duodi DI agentui, tuo daugiau jis gali sugadinti, kai kas nors nueina ne taip.
Ars Technica aprašo rimtą naujo Meta asistento pažeidžiamumą. Problemos esmė ne vien klaida kode. Esmė ta, kad agentas turėjo labai daug galimybių veikti vartotojo aplinkoje.
Čia kaip duoti praktikantui raktus nuo viso biuro ir slaptažodžių stalčiaus. Gal žmogus geras. Bet sistema vis tiek bloga.
KODĖL AGENTAI PAVOJINGESNI UŽ POKALBIŲ ROBOTUS
Paprastas pokalbių robotas atsako tekstu. DI agentas gali spausti, naršyti, jungtis prie paslaugų, atlikti veiksmus ir kartais keisti duomenis.
Tai didžiulis skirtumas. Teksto klaidą dar gali pastebėti prieš siųsdamas klientui. Veiksmo klaida jau gali būti įvykusi.
Todėl agentų saugumas nėra priedas. Tai pagrindinė produkto dalis.
KĄ VERSLAS TURI PASIIMTI
Jeigu įmonė testuoja DI agentus, pirmas klausimas turi būti ne „ką jis moka“, o „ką jam leidžiame daryti“.
Leidimai turi būti siauri. Agentas neturi turėti prieigos prie visko tik todėl, kad taip patogiau demonstracijoje. Ypač kai kalbama apie el. paštą, klientų duomenis, mokėjimus ar vidines sistemas.
Dar vienas klausimas: ar yra patvirtinimo žingsnis prieš rizikingą veiksmą? Jeigu agentas gali nusiųsti, ištrinti, pirkti ar keisti, žmogaus patvirtinimas neturėtų būti dekoracija.
DIENA, KAI SAUGUMAS TAMPA PRODUKTO SAVYBE
Anksčiau daug kas saugumą prisimindavo prieš auditą. Su DI agentais tai nebeveiks. Agentas pats tampa darbo proceso dalimi, todėl jo saugumas turi būti matomas kiekvieną dieną.
Gera žinia tokia: šitos pamokos nėra kosminės. Mažiau teisių. Aiškūs leidimai. Veiksmų žurnalas. Patvirtinimai. Testavimas prieš paleidimą.
Skamba nuobodžiai? Taip. Bet saugumas dažnai ir yra nuobodus tol, kol jo neprireikia.
FAQ
Kas yra DI agentas?
Tai DI sistema, kuri ne tik atsako, bet ir gali atlikti veiksmus naudodama kitus įrankius ar paslaugas.
Kodėl leidimai tokie svarbūs?
Per platūs leidimai reiškia, kad viena spraga gali suteikti prieigą prie jautrių veiksmų ar duomenų.
Kaip pradėti saugiau?
Pirmiausia apribokite agento teises, įjunkite patvirtinimus ir laikykite veiksmų žurnalą.
Šaltinis: Ars Technica.
Jei jūsų komanda jau bando agentus, susirašykite vieną lentelę: agentas, prieiga, veiksmai, patvirtinimas. Toks paprastas sąrašas kartais sutaupo labai brangų rytą.
