Pay-per-intelligence: kai DI agentui duodi įmonės kortelę
·
DI agentų mokėjimai skamba kaip techninis terminas. Bet kai pažiūri praktiškai, čia yra labai žemiškas klausimas: kiek darbo darome rankomis tik todėl, kad niekas neprisėdo sutvarkyti proceso?
AWS aprašė Ampersend pay-per-intelligence modelį, kuriame DI agentas gali pasirinkti tinkamą paslaugą ir sumokėti už užklausą. Čia jau prasideda rimtas verslo klausimas: kiek laisvės duoti agentui, kuris gali leisti pinigus?
Man tokiose naujienose visada įsijungia mažas vidinis buhalteris. Ne tas, kuris skaičiuoja sąskaitas, o tas, kuris klausia: kiek tai kainuos, kas prižiūrės ir kur gali lūžti?
KAS NUTIKO
Ampersend naudoja Amazon Bedrock AgentCore Payments, kad agentai galėtų maršrutizuoti užduotis į skirtingus modelius ar paslaugas, mokėti pagal naudojimą ir veikti nustatytų biudžetų ribose.
Tai panašu į įmonės kortelę. Labai patogu, kai žmogus žino taisykles. Nelabai patogu, kai mėnesio gale atrandi, kad „testavau“ reiškė penkiasdešimt mažų, bet brangių eksperimentų.
KODĖL TAI SVARBU
DI agentų mokėjimai svarbūs todėl, kad agentai jungiasi prie vis daugiau mokamų modelių, API ir duomenų šaltinių. Jei mokėjimai lieka rankinis klijų rinkinys, projektai sunkiai auga.
DI jau nebe vien langelis, į kurį įmetame tekstą. Jis jungiasi prie įrankių, moka kviesti servisus, gali veikti keliais žingsniais ir pradeda liesti tikrus verslo pinigus. Čia romantika baigiasi. Prasideda tvarka.
KĄ TAI REIŠKIA VERSLUI
Verslui čia atsiranda naujas valdymo sluoksnis: biudžetai, limitai, patvirtinimai, logai ir aiški atsakomybė už agento veiksmus.
- nustatyti dienos ir mėnesio limitus
- brangesnius veiksmus tvirtinti žmogui
- registruoti kiekvieną mokamą žingsnį
- atskirti eksperimentų ir produkcijos biudžetus
Pavyzdys: rinkos analizės agentas gali pigiai surūšiuoti šaltinius, o brangesnį modelį naudoti tik galutinei ataskaitai.
KUR PASISLĖPUSI RIZIKA
Rizika – nematyti mažų išlaidų. Vienas centas čia, du centai ten, o mėnesio gale jau turime ne eksperimentą, o pamoką.
Blogiausia DI klaida dažnai neatrodo kaip klaida. Ji ateina gražiai parašytu sakiniu, mandagiu tonu ir labai užtikrintu veidu. Todėl verslui reikia ne tik įrankių, bet ir įpročio tikrinti.
KĄ PASIDARYTI ŠIĄ SAVAITĘ
Susirašykite, kurie DI įrankiai įmonėje jau kainuoja pagal naudojimą, ir kam priklauso jų biudžeto kontrolė.
Šaltinis: Amazon Web Services.
DUK
Kas yra DI agentų mokėjimai?
Tai mechanizmas, leidžiantis agentams apmokėti naudojamus modelius, API ar duomenų paslaugas.
Kodėl to reikia?
Agentai dažnai turi rinktis skirtingas mokamas paslaugas pagal užduotį.
Kokia didžiausia rizika?
Nekontroliuojamos smulkios išlaidos be limitų ir logų.
Jei norite DI naudoti ne dėl mados, pradėkite nuo vieno proceso. Paimkite užduotį, kuri kartojasi kas savaitę, susirašykite žingsnius ir tik tada junkite įrankį. Daugiau praktinių DI taikymo pavyzdžių rasite MasterSprint.
