AgentCore taisyklės: DI agentams reikia ne tik leidimo veikti

·


AgentCore taisyklės DI agentų elgsenai ir kainai valdyti

AgentCore taisyklės skamba kaip administracinis smulkus šriftas. Bet čia yra viena tų vietų, kur DI agentai iš demo pereina į normalų darbą.

Nes agentas, kuris gali veikti, dar nereiškia, kad jis turėtų veikti bet kada, bet kaip ir už bet kokią kainą.

AWS rugpjūčio 6 d. pristatė naujas Amazon Bedrock AgentCore galimybes, skirtas agentų elgsenai ir kaštams valdyti už vieno veiksmo ribų.

KUR PRASIDEDA REALI RIZIKA

Pokalbių robotas atsako. Agentas daro. Jis gali kviesti įrankius, kartoti bandymus, jungtis prie sistemų ir palikti pėdsaką sąskaitoje.

Jeigu nėra taisyklių, agentas gali būti labai darbštus. Net per daug. Tada vadovas pamato ne produktyvumą, o debesijos sąskaitą, kuri atrodo kaip blogas pokštas.

Čia ne panika. Čia normali branda.

KAINA YRA ELGSENOS DALIS

Daug komandų dar galvoja apie DI kainą kaip apie vieną atsakymą. Bet agentas turi kelių žingsnių ciklą. Viena užduotis gali virsti dešimtimis modelio kvietimų.

Todėl reikia ribų: kiek kartų agentas gali bandyti, kada sustoti, kada perduoti žmogui, kada naudoti pigesnį modelį, kada apskritai atsisakyti veiksmo.

Sena taisyklė: ko nematuoji, tas mėgsta brangti.

KĄ DARYTI ĮMONEI

Prieš paleidžiant agentą, susirašykite jo darbo ribas. Kokius įrankius jis gali kviesti? Kiek kainuoja vienas sėkmingas rezultatas? Kur reikia žmogaus patvirtinimo?

Tada sukurkite mažą testą su realiais duomenimis. Ne su gražiu pavyzdžiu prezentacijai, o su tuo kasdieniu procesu, kuris dažnai stringa.

Agentai bus naudingi tada, kai jie turės ne tik laisvę, bet ir tvarką.

FAQ

Kas yra Amazon Bedrock AgentCore?

Tai AWS paslauga ir įrankių rinkinys, skirtas kurti, valdyti ir stebėti DI agentus produkcinėje aplinkoje.

Kodėl agentams reikia kaštų ribų?

Nes viena užduotis gali sukelti daug modelio ir įrankių kvietimų, o tai greitai virsta sąskaita.

Nuo ko pradėti?

Nuo vieno proceso, aiškių leidimų, kaštų ribų ir žmogaus patvirtinimo jautriems veiksmams.

Šaltinis: AWS.

Jei kuriate pirmą rimtesnį agentą, pradėkite ne nuo „ką jis gali“, o nuo „kur jis turi sustoti“. MasterSprint mokymuose šitą dalį išskaidome praktiškai.