AWS siūlo ribas DI agentams: kodėl tai gera žinia vadovams
Amazon Bedrock AgentCore gavo naujas agentų elgesio ir kaštų ribas. Tai svarbus signalas įmonėms, kurios nori DI agentų be chaoso.
Šiame straipsnyje · 5 dalys
- Kas yra DI agentų kontrolė? Tai techninės taisyklės, kurios apibrėžia, ką agentas gali daryti ir kada turi sustoti.
- Kodėl promptų nepakanka? Promptas yra prašymas. Kontrolės taisyklės yra sistema, kuri veikia net tada, kai agentas bando eiti kitu keliu.
- Ar mažai įmonei to reikia? Jeigu agentas jungiasi prie realių duomenų ar mokamų paslaugų, bent bazinės ribos reikalingos visiems.
DI agentų kontrolė nėra pati seksualiausia tema. Niekas nenori apie ją kalbėti konferencijos pradžioje. Visi nori demo, kur agentas per 18 sekundžių padaro savaitės darbą.
Bet realiame versle kontrolė yra skirtumas tarp „geras įrankis“ ir „kodėl jis išsiuntė tai klientui?“.
AWS pristatė naujas Amazon Bedrock AgentCore galimybes: temporal policies su Dogwood politika ir kaštų ribojimą per gateway. Skamba sausai. Bet vadovams čia yra labai praktiška žinia.
Agentai jau nebe vienas veiksmas
Paprasta programa daro tai, kas parašyta kode. DI agentas pats sprendžia, kokį įrankį kviesti, kokia tvarka ir kiek kartų bandyti. Čia jo stiprybė. Ir čia jo rizika.
Jeigu agentas turi teisę skaityti, rašyti, siųsti, trinti ir dar naudoti mokamą API, vien „pasitikėkime“ nebeužtenka. Reikia taisyklių.
Ne popierinių. Techninių.
Ką duoda temporal policies?
Temporal policies leidžia aprašyti ne tik ar veiksmas leidžiamas, bet ir kokia veiksmų seka leidžiama. Pavyzdžiui, agentas gali paruošti pasiūlymą, bet negali jo išsiųsti, kol žmogus nepatvirtino. Arba gali tikrinti duomenis, bet negali keisti įrašo po tam tikro žingsnio.
Čia kaip gero administratoriaus logika: „pirma parodyk, tada daryk“.
Kaštų ribos irgi svarbu
DI agentas gali būti labai darbštus. Kartais per daug darbštus. Jeigu užduotis blogai aprašyta, jis gali sukti ratą, kviesti modelį dar ir dar, tikrinti nereikalingus variantus.
O tada mėnesio gale ateina sąskaita. Ir staiga visi tampa labai filosofiški apie DI strategiją.
Kaštų ribojimas padeda iš anksto pasakyti: šiai darbo eigai tiek. Pasiekei ribą – sustok ir kviesk žmogų.
Ką tai reiškia mokymams?
Man atrodo, kad čia keičiasi ir DI mokymų turinys. Anksčiau mokėmės rašyti gerus promptus. Dabar reikia mokytis projektuoti ribas: leidimus, patvirtinimus, žurnalus, rizikas.
Tai ne biurokratija. Tai įgūdis.
Komandos, kurios šitą supras anksčiau, agentus įsidiegs ramiau. Ne todėl, kad jos drąsesnės. Todėl, kad jos tvarkingiau mąsto apie procesą.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
