Nvidia nori izoliuoti nevaldomus DI agentus per milisekundes
·
Nvidia pristato platformą, kuri turėtų izoliuoti nevaldomus DI agentus per milisekundes. Euronews Next rašo, kad tikslas paprastas: kontroliuoti, ką agentas gali pasiekti, ir greitai jį atskirti, jei jis peržengia ribas.
Čia labai gera kryptis, nes DI agentai jau nebėra tik pokalbių langai. Jie gauna įrankius, prieigas, API raktus ir užduotis.
O kai sistema gali veikti, ji turi mokėti ir sustoti.
KODĖL AGENTAMS REIKIA IZOLIACIJOS
DI agentas gali daryti kelis veiksmus iš eilės: skaityti duomenis, kviesti API, rašyti failus, siųsti užklausas, jungtis prie vidinių sistemų. Jei toks agentas suklysta, klaida gali keliauti greitai.
Todėl saugumo klausimas keičiasi. Nebepakanka tik patikrinti atsakymą. Reikia valdyti veiksmus: kur agentas gali eiti, ką gali matyti, kiek gali bandyti ir kada automatiškai stabdomas.
MILIsekundžių LOGIKA
Jei agentas peržengia ribas, žmogaus reakcija gali būti per lėta. Kol kas nors pamato žurnalą, agentas jau gali būti atlikęs dešimtis veiksmų.
Todėl izoliuoti per milisekundes reiškia saugumą per infrastruktūrą. Ne prašyti žmogaus nuolat žiūrėti į ekraną, o sukurti vartus, kurie suveikia automatiškai.
PAMOKA ĮMONĖMS
Jei diegiate agentus, pradėkite nuo ribų, ne nuo ambicijos. Agentas turi turėti atskirą tapatybę, mažiausias būtinas teises, veiksmų žurnalą ir aiškų stabdymo mechanizmą.
Čia tas pats kaip su darbuotojo kortele. Niekas neduoda vienos kortelės visam pastatui be priežasties. DI agentams turėtų galioti tokia pati logika.
FAQ
Ką pristatė Nvidia?
Nvidia pristato platformą, skirtą kontroliuoti DI agentų prieigas ir izoliuoti juos, jei jie peržengia nustatytas ribas.
Kodėl agentų izoliacija svarbi?
Agentai gali atlikti veiksmus per įrankius ir sistemas, todėl klaidos ar netinkamas elgesys turi būti stabdomi automatiškai.
Ką įmonėms daryti prieš paleidžiant DI agentą?
Nustatyti leidimus, veiksmų limitus, stebėjimą, žurnalus ir aiškų automatinį stabdymą.
Šaltinis: Euronews Next.
Prieš paleisdami DI agentą, atsakykite į vieną klausimą: kas jį sustabdys, jei jis pradės daryti ne tai, ko tikėjotės?
