Amazon Bedrock Guardrails: saugikliai agentams jau kviečiami per API
·
Amazon Bedrock Guardrails šiandien yra viena iš tų naujienų, kuri iš pirmo žvilgsnio atrodo techninė. Bet tada pagalvoji apie realią komandą: pardavimus, klientų klausimus, dokumentus, sprendimus ir tą vieną žmogų, kuris vis dar viską nešioja savo galvoje.
AWS paskelbė naują InvokeGuardrailChecks API Amazon Bedrock Guardrails paslaugoje.
Atvirai? Man tokios žinios rūpi tik tada, kai jos nusileidžia ant stalo. Ne konferencijų salėje. Ant tikro darbo stalo, kur yra per daug langų, per mažai laiko ir vienas labai žmogiškas klausimas: ar tai man padės šiandien?
KAS NUTIKO
Nauja API leidžia kviesti atskiras saugos patikras agento darbo eigoje, nelaukiant, kol bus sukurtas pilnas guardrail resursas.
Praktiškai tai reiškia daugiau kontrolės. Galima tikrinti vartotojo įvestį, tarpinį agento planą, įrankio atsakymą ar galutinį tekstą.
KODĖL VERTA SUSTOTI
Agentai nebe tik atsakinėja. Jie kviečia įrankius, jungiasi prie duomenų ir kartais gali atlikti veiksmus. Saugikliai turi būti ne paskutinis lipdukas, o dalis kelio.
Čia yra pavojinga vieta. Labai lengva pasakyti: „nu va, dabar agentai viską padarys“. Nepadarys. Jei procesas kreivas, DI jį tik greičiau nuneš į kitą kambarį. Kaip su dokumentų spinta: nauja etiketė nepadeda, jei viduje guli 2019 metų sutartys, trys versijos ir niekas nežino, kuri galutinė.
KĄ TAI REIŠKIA VERSLUI
Įmonėms tai naudinga, kai DI sprendimas dirba su klientų duomenimis, finansais, sveikata, sutartimis ar vidinėmis žiniomis.
- tikrinti vartotojo užklausas prieš agento veiksmą
- blokuoti jautrią informaciją prieš atsakymą
- registruoti, kada saugiklis sustabdė veiksmą
- skirtingoms užduotims taikyti skirtingas taisykles
Tai daugiau inžinerinis darbas nei gražus nustatymas administravimo lange. Bet būtent ten ir prasideda rimtesnis DI diegimas.
RIZIKA, APIE KURIĄ NORISI KALBĖTI GARSIAU
Saugikliai be aiškių taisyklių tampa loterija. Per griežti stabdo darbą, per laisvi praleidžia tai, ko paskui nenorėsite aiškinti klientui.
Gera praktika paprasta: kuo daugiau veiksmų DI gali atlikti pats, tuo aiškesnės turi būti ribos. Kas tvirtina? Kur sustoja? Ką įrašo į žurnalą? Kas atsako, jei atsakymas gražus, bet klaidingas?
KĄ PASIDARYTI ŠIĄ SAVAITĘ
Pasirinkite vieną agento veiksmą ir užrašykite, kokios informacijos jis niekada neturi grąžinti vartotojui.
Šaltinis: Amazon Web Services.
DUK
Kas yra Amazon Bedrock Guardrails?
Tai AWS saugos taisyklių sluoksnis DI programoms.
Kam reikalinga nauja API?
Ji leidžia saugos patikras kviesti konkrečiose agento darbo eigos vietose.
Ar to užtenka saugumui?
Ne. Reikia leidimų, žurnalų, testų ir aiškaus žmogaus patvirtinimo.
Norite DI naudoti kaip sistemą, o ne kaip vieną triuką? Išsirinkite vieną procesą, susitarkite dėl ribų ir tik tada junkite įrankius. Daugiau praktikos galite rasti MasterSprint.
