Temporal policies DI agentams: vieno veiksmo saugumas nebeužtenka
·
Temporal policies DI agentams sprendžia problemą, kurią lengva pražiopsoti, kol agentas dar tik demo režime.
Vienas veiksmas gali atrodyti saugus. Bet keli veiksmai iš eilės gali sukurti bėdą.
AWS rugpjūčio 6 d. aprašė temporal policies Amazon Bedrock AgentCore aplinkoje – taisykles, kurios vertina agento veiksmų istoriją.
AGENTAS VEIKIA SEKA
Tradicinė sistema dažnai tikrina kiekvieną veiksmą atskirai: ar vartotojas gali iškviesti šį įrankį, ar turi leidimą, ar parametrai tvarkingi.
Agentas elgiasi kitaip. Jis pats sprendžia, kokius įrankius kviesti, kokia tvarka ir kiek kartų. Vienas kvietimas dar nieko nereiškia. Visa seka jau gali reikšti riziką.
AWS pateikia pavyzdžius: agentas gali naudoti pasenusius duomenis, sukti veiksmų ratą arba priimti prieštaringus sprendimus per kelias sekundes.
KODĖL REIKIA ISTORIJOS
Temporal policy žiūri į trajektoriją: kas įvyko prieš šį prašymą. Ar buvo atlikta kliento paieška? Ar ji dar šviežia? Ar suma neviršijo bendro limito? Ar reikia žmogaus patvirtinimo?
Tai labai žemiška. Jei darbuotojas nori pervesti pinigus, svarbu ne tik mygtukas „pervesti“. Svarbu, iš kur jis gavo sąskaitą, ar ji patikrinta ir ar suma telpa į taisykles.
Agentams reikia tokio pat sveiko proto, tik parašyto taisyklėmis.
KĄ TAI REIŠKIA VERSLUI
Jei kuriate agentą finansams, aptarnavimui, pardavimams ar operacijoms, nepakanka leidimų sąrašo. Reikia sekos taisyklių.
Pavyzdžiui: prieš generuojant pasiūlymą turi būti atnaujinta kainodara. Prieš užsakymą turi būti patvirtintas klientas. Po nepatikimo šaltinio negalima atlikti rizikingo veiksmo be žmogaus.
Tai ne stabdis. Tai normalus darbo ritmas.
FAQ
Kas yra temporal policies?
Tai taisyklės, kurios vertina agento veiksmą pagal ankstesnių veiksmų seką ir sesijos kontekstą.
Kodėl stateless leidimų nepakanka?
Nes atskiras įrankio kvietimas gali būti saugus, bet kelių veiksmų kombinacija gali sukurti riziką.
Kur tai pritaikyti?
Finansuose, klientų aptarnavime, pardavimuose, operacijose ir visur, kur agentas priima kelių žingsnių sprendimus.
Šaltinis: AWS.
Jei agentas jūsų procese daro daugiau nei vieną veiksmą, susirašykite ne tik leidimus. Susirašykite veiksmų tvarką.
