Saugūs DI agentai: keturi dalykai prieš paleidžiant į darbą

Svarbiausia

• Kas yra saugus DI agentas? Tai agentas, kuris turi ribotas teises, aiškų veiksmų stebėjimą ir negali savavališkai daryti jautrių veiksmų.
• Ar agentui reikia žmogaus patvirtinimo? Jautriems veiksmams – taip. Pavyzdžiui, siunčiant sutartis, keičiant duomenis ar darant finansinius sprendimus.
• Nuo ko pradėti saugumo planą? Nuo užduočių sąrašo, prieigos ribų ir veiksmų žurnalo. Tik tada rinktis įrankį.

Saugūs DI agentai yra tema, kurią lengva atidėti. Pirma paleidžiam, pažiūrim kaip veikia, paskui sutvarkysim teises. Atpažįstama?

Čia tas pats kaip duoti naujam praktikantui raktus nuo viso biuro, sandėlio, buhalterijos ir dar paprašyti, kad vakare užrakintų. Gal nieko nenutiks. Bet jei nutiks, tada klausimas bus ne „kas kaltas“, o „kodėl mes taip sugalvojom“.

NVIDIA liepos 30 d. aprašė keturis saugesnio DI agentų diegimo būdus. Man ši tema atrodo verta ne tik IT komandai. Ji verta kiekvienam vadovui, kuris planuoja duoti agentams prieigą prie dokumentų, laiškų, klientų duomenų ar vidinių sistemų.

Agentas nėra paprastas chatas

Didžiausia klaida – laikyti DI agentą tik pokalbių langu. Pokalbių langas atsako. Agentas veikia. Jis gali skaityti, rašyti, jungtis prie įrankių, kviesti API, kurti failus, siųsti užklausas ir priimti tarpinius sprendimus.

Veiksmas keičia riziką.

Jei darbuotojas turi per daug teisių, įmonė tai anksčiau ar vėliau pajunta. Su agentu tas pats, tik greičiau. Jis gali padaryti daugiau veiksmų per mažiau laiko ir ne visada supras, kuris veiksmas verslui jautrus.

Teisės turi būti mažos

Pirmas principas paprastas: agentas turi gauti tik tiek prieigos, kiek reikia konkrečiai užduočiai. Ne „viską, nes patogiau“. Tik tiek.

Jei agentas ruošia savaitinę pardavimų santrauką, jam nereikia keisti kainodaros lentelių. Jei jis atsako į klientų klausimus, jam nereikia trinti CRM įrašų. Jei jis padeda su dokumentais, jam nebūtina matyti visų finansinių bylų.

Čia nėra paranoja. Tai tvarka.

Reikia matyti, ką agentas daro

Antras principas – stebėjimas. Agentų veiksmus reikia loginti taip, kad po savaitės būtų įmanoma atsakyti: ką jis skaitė, ką pakeitė, kokį įrankį kvietė, kodėl sustojo.

Jei to nėra, DI projektas tampa juoda dėže. O juodos dėžės versle nepatinka nei vadovui, nei teisininkui, nei klientui.

Gera praktika – atskirti mažos rizikos veiksmus nuo jautrių. Santrauką paruošti galima automatiškai. Sutartį išsiųsti klientui – jau gal reikia žmogaus patvirtinimo.

Testai prieš realius duomenis

Trečias dalykas – testuoti agentą su ribotu duomenų rinkiniu. Neleisti jam pirmą dieną eiti į visą įmonės dokumentų archyvą.

Padaryk mažą smėlio dėžę. Duok 20 dokumentų, kelias užduotis, aiškius kriterijus. Pažiūrėk, kur klysta. Pažiūrėk, ar laikosi ribų. Pažiūrėk, ar nesugalvoja „kūrybiškai“ apeiti taisyklių.

Taip, užtrunka. Bet mažas testas pigesnis už didelį incidentą.