AgentCore taisyklės DI agentams: kodėl vieno leidimo nebeužtenka

DI agentų taisyklės šiandien nėra teorinis žaislas. Tai jau darbas, pinigai, duomenys ir kartais labai žemiškas klausimas: kas prisiims atsakomybę, kai DI pradės veikti už žmogų?

DI agentų taisyklės Amazon Bedrock AgentCore aplinkoje tampa rimtesnės. AWS pristatė laiko politiką, Dogwood kalbą ir kainos ribas, kurios veikia ne tik vienam veiksmui, bet visai agento eigai.

Turiu prisipažinti, tokias naujienas skaitau ne kaip blizgančią vitriną. Skaitau kaip žmogus, kuris iš karto galvoja apie komandą pirmadienio rytą. Kas iš to bus naudinga? Kur bus painiava? Ir kur po mėnesio kas nors pasakys: „mes galvojom, kad čia automatiškai susitvarkys“.

KAS NUTIKO

Naujos AgentCore galimybės leidžia aprašyti, kokios agento veiksmų sekos leidžiamos, kada jos turi būti sustabdytos ir kiek resursų užduotis gali sunaudoti, kad agentas neišvažiuotų į brangų maratoną.

Vienas leidimas agentui yra kaip raktas nuo viso biuro. Patogu. Iki pirmo karto, kai kažkas jį palieka ant stalo prie kavos aparato.

Čia svarbi detalė: kalbame ne apie dar vieną gražų demonstracinį video. Kalbame apie produktus, politiką, infrastruktūrą arba tyrimus, kurie keičia, kaip žmonės dirba su DI realiose organizacijose.

KODĖL TAI SVARBU

Agentas nėra vienas API kvietimas. Jis gali planuoti, bandyti iš naujo, kviesti įrankius, klysti, taisytis ir vėl kviesti. Todėl kontrolė turi matyti seką.

DI jau išlipo iš „parašyk tekstą“ dėžutės. Jis naršo, jungiasi prie įrankių, analizuoja duomenis, planuoja veiksmus, kartais tvarko dokumentus ar padeda priimti sprendimą. Trumpai: jis artėja prie darbo proceso, ne tik prie pokalbio lango.

Ir čia smegenys mėgsta paslysti. Norisi sakyti: „ai, čia dar užsienyje“. Bet tas pats modelis ar funkcija rytoj atsiras kliento kompiuteryje, darbuotojo naršyklėje arba partnerio pasiūlyme.

KĄ TAI REIŠKIA VERSLUI

Vadovams čia svarbu dėl dviejų dalykų: saugos ir kainos. Jei agentas jungiasi prie realių įrankių, reikia ne tik leidimo, bet ir lubų.

• riboti veiksmų sekas
• nustatyti kainos lubas už užduotį
• registruoti agento sprendimų kelią
• rizikingam veiksmui palikti žmogaus patvirtinimą

Paimkite vieną agento scenarijų ir nupieškite jo veiksmų grandinę. Tada pažymėkite, kur jis gali kartoti veiksmą, kur gali išleisti pinigus ir kur turi sustoti.

Man patinka paprastas testas: ar po šios naujienos tavo komanda turi vieną aiškesnį sprendimą? Jei ne, vadinasi dar tik skaitome. Skaityti galima. Tik nereikia apsimesti, kad tai jau strategija.

KUR GALI SKAUDĖTI

Rizika – pasitikėti agentu, nes pirmi penki bandymai pavyko. Produkcijoje svarbu ne demonstracija, o elgesys po šimto netvarkingų užklausų.

Dažniausia klaida labai ūkiška. Žmonės įsijungia įrankį, pabando, nustemba, pasidžiaugia ir tada palieka viską savieigai. Po kelių savaičių paaiškėja, kad vieni darbuotojai kelia jautrius failus, kiti matuoja naudą iš jausmo, o treti net nežino, kas leidžiama.

Ne tragedija. Bet tvarkos reikia.

KĄ PASIDARYTI ŠIĄ SAVAITĘ

Šią savaitę kiekvienam DI agento projektui pridėkite vieną klausimą: kokia yra maksimali šios užduoties kaina?

Šaltinis: AWS Machine Learning Blog.

DUK

Kas yra DI agentų taisyklės?

Tai leidimų, veiksmų sekų ir ribų rinkinys, kuris nustato, ką agentas gali daryti.

Kodėl neužtenka vieno leidimo?

Nes agentas atlieka veiksmų seką, o rizika dažnai atsiranda ne pirmame, bet trečiame ar penktame žingsnyje.

Kas yra Dogwood?

AWS pristato Dogwood kaip atvirą politikos kalbą agentų elgesiui aprašyti.

Jei nori DI naudoti praktiškai, pradėk nuo vieno proceso. Vienas pasikartojantis darbas. Vienas atsakingas žmogus. Vienas matavimas. Daugiau praktikos rasi MasterSprint.