Agentų kainos ir elgesio ribos: AWS deda tvarką ant DI

DI agentų ribos yra tema, kuri skamba mažiau seksualiai nei naujas modelis. Bet realiame versle ji gali būti svarbesnė.

Nes agentas be ribų yra ne darbuotojas. Tai loterija.

AWS rugpjūčio 6 d. pristatė naujas Amazon Bedrock AgentCore galimybes: temporal policies su Dogwood atviro kodo politikų kalba ir rate limiting agentų gateway lygyje. Išvertus į žmonių kalbą – taisyklės veiksmų sekoms ir lubos kaštams.

KODĖL VEIKSMŲ SEKA SVARBI?

Žmogui daug kas atrodo savaime suprantama. Pirma patikrink duomenis, tada daryk išvadą. Pirma gauk patvirtinimą, tada siųsk. Pirma paskaičiuok riziką, tada vykdyk veiksmą.

DI agentui tai reikia aiškiai pasakyti.

Temporal policies leidžia aprašyti, kokia seka agentas gali atlikti veiksmus. Pavyzdžiui, neleisti jam pateikti atsakymo, jei jis prieš tai nepasikvietė reikalingo duomenų šaltinio. Arba reikalauti žmogaus patvirtinimo prieš didesnės vertės veiksmą.

KAŠTAI IRGI TURI LUBAS

Kitas labai praktiškas dalykas – rate limits. Agentas gali kartoti veiksmus, kviesti įrankius, siųsti užklausas ir deginti biudžetą greičiau nei atrodo.

Čia panašu į vaiką saldainių parduotuvėje su tavo kortele. Blogų ketinimų nereikia. Užtenka entuziazmo.

Todėl kaštų ribos turi būti techninės, ne tik „susitarėme, kad nepersistengsime“.

LIETUVOS VERSLUI PAMOKA PAPRASTA

Jeigu kuri DI agentą, pradėk nuo taisyklių. Ką jis gali daryti pats? Ką tik siūlyti? Kur būtinas žmogus? Kiek kartų gali bandyti? Kiek pinigų gali kainuoti viena sesija? Ką daryti, jei nepavyko?

Tokie klausimai ne stabdo inovaciją. Jie leidžia ją paleisti į realų darbą.

Be jų agentas lieka demo. Su jais – jau galima kalbėti apie procesą.

FAQ

Kas yra temporal policies?

Tai taisyklės, kurios aprašo, kokia seka DI agentas gali atlikti veiksmus ir kada reikia papildomo patvirtinimo.

Kam reikalingas rate limiting?

Jis padeda riboti užklausų skaičių, kaštus ir agento veiklos intensyvumą, kad automatizacija neišeitų iš biudžeto.

Ar mažai įmonei to reikia?

Taip, jeigu agentas turi prieigą prie mokamų įrankių, klientų duomenų ar veiksmų, kurie gali sukelti finansinę riziką.

Šaltinis: AWS.

Prieš leisdamas agentui veikti, parašyk jam taisykles. Ne gražias. Technines.