Laiko taisyklės DI agentams: leidimai priklauso nuo ankstesnių veiksmų

DI agentų saugumas ilgai buvo aiškinamas kaip paprastas leidimų sąrašas. Gali skaityti. Negali rašyti. Gali naudoti įrankį. Negali. Bet agentai daro sekas, o ne vieną veiksmą. Čia ir prasideda įdomumas.

LEIDIMAS PRIKLAUSO NUO ISTORIJOS

Amazon Bedrock AgentCore temporal policies leidžia spręsti ne tik pagal dabartinę užklausą, bet ir pagal ankstesnius agento veiksmus. Tai reiškia, kad tas pats veiksmas gali būti leidžiamas arba stabdomas pagal kontekstą.

Pavyzdys paprastas. Agentas gali perskaityti kliento informaciją. Gali paruošti laiško juodraštį. Bet jeigu prieš tai jis jau atliko kelis rizikingus veiksmus, sistema gali pareikalauti patvirtinimo arba blokuoti kitą žingsnį.

KODĖL VIENO MYGTUKO NEUŽTENKA

Žmogus retai prisidirba vienu veiksmu. Dažniau bėda susideda iš mažų sprendimų grandinės. Agentams tas pats. Vienas nekaltas veiksmas, antras, trečias – ir staiga jis jau ten, kur neturėjo būti.

Todėl saugumas turi matyti trajektoriją. Ne gražus žodis, o praktiškas dalykas: ką agentas darė prieš minutę, ką bandė dabar ir ką darys po to.

KĄ DARYTI BE DIDELĖS SISTEMOS

Net jei nenaudojate AgentCore, principą galima pasiimti. Sukurkite taisykles pagal sekas. Pavyzdžiui: agentas gali paruošti sąskaitą, bet negali jos išsiųsti be žmogaus. Gali siūlyti nuolaidą, bet ne didesnę nei sutarta riba.

Tokios taisyklės nuobodžios. Užtat jos gelbėja nuo situacijos, kai DI atrodo labai savarankiškas, kol padaro brangią nesąmonę.

Šaltinis: pirminis pranešimas.

Trumpi atsakymai

Kas yra DI agentų saugumas?

Tai taisyklės, leidimai ir stebėjimas, kurie riboja agento veiksmus ir mažina klaidų riziką.

Kas yra temporal policies?

Tai laiko ir veiksmų sekos taisyklės, kurios vertina dabartinį veiksmą pagal ankstesnį kontekstą.

Ar mažam verslui to reikia?

Taip, bent paprastu lygiu: aiškios ribos, žmogaus patvirtinimas ir draudžiami veiksmai.

Komandai verta turėti bent vieną lentelę: kokius veiksmus agentas gali daryti iš karto, kokius tik po patvirtinimo ir kokių negali daryti niekada.