OpenAI primena: DI biudžetas turi matuoti darbą, ne tik tokenus
·
DI biudžetas skamba kaip techninis terminas. Bet kai pažiūri praktiškai, čia yra labai žemiškas klausimas: kiek darbo darome rankomis tik todėl, kad niekas neprisėdo sutvarkyti proceso?
OpenAI liepos 14 d. paskelbė tekstą apie DI investicijų valdymą agentų eroje. Pagrindinė mintis paprasta: žiūrėti ne vien į tokeno kainą, o į tai, kiek naudingo darbo už tuos pinigus padaroma. Atrodo savaime suprantama. Bet biudžetuose dažnai gyvename atvirkščiai.
Man tokiose naujienose visada įsijungia mažas vidinis buhalteris. Ne tas, kuris skaičiuoja sąskaitas, o tas, kuris klausia: kiek tai kainuos, kas prižiūrės ir kur gali lūžti?
KAS NUTIKO
OpenAI siūlo matuoti, kas naudoja DI, kokius modelius renkasi, kiek kainuoja konkretus darbas, kada reikia brangesnio modelio ir kada pakanka pigesnio. Jie taip pat akcentuoja valdymą prieš agentinių procesų išplitimą: kas turi prieigą, kokius įrankius DI gali naudoti ir kada reikalingas žmogaus patvirtinimas.
Čia kaip su sporto laikrodžiu. Gali žiūrėti tik į kilometrus. Bet jei nežinai pulso, tempo ir savijautos, nelabai supranti, ar treniruotė buvo protinga, ar tiesiog pasikankinai dėl gražaus skaičiaus.
KODĖL TAI SVARBU
DI biudžetas svarbus todėl, kad agentai ir ilgesni darbo procesai gali tyliai užauginti sąskaitas. Vienas pokalbis nieko nereiškia. Tūkstančiai bandymų, pakartojimų ir netikrintų automatizacijų jau reiškia.
DI jau nebe vien langelis, į kurį įmetame tekstą. Jis jungiasi prie įrankių, moka kviesti servisus, gali veikti keliais žingsniais ir pradeda liesti tikrus verslo pinigus. Čia romantika baigiasi. Prasideda tvarka.
KĄ TAI REIŠKIA VERSLUI
Lietuvos įmonėms tai labai praktiškas signalas. Jei vadovas mato tik mėnesio sąskaitą, jis negali atskirti naudingo proceso nuo triukšmo. Reikia matuoti ne „kiek naudojom“, o „ką realiai sutaupėm ar pagerinom“.
- susieti DI išlaidas su konkrečiais procesais
- matuoti rezultatą, o ne tik užklausų kiekį
- brangesnius modelius palikti sudėtingoms užduotims
- turėti limitus komandoms ir žmonėms
Pirmas žingsnis: paimkite tris dažniausiai naudojamas DI užduotis ir paskaičiuokite kainą už priimtą rezultatą. Pavyzdžiui, ne kiek kainavo užklausa, o kiek kainavo vienas paruoštas klientų aptarnavimo atsakymas, kurį žmogus patvirtino.
KUR PASISLĖPUSI RIZIKA
Rizika – optimizuoti pigiausią modelį ir prarasti valandas taisymui. Kita rizika – visur naudoti brangiausią modelį, nes „taip ramiau“. Abu kraštutinumai kainuoja.
Blogiausia DI klaida dažnai neatrodo kaip klaida. Ji ateina gražiai parašytu sakiniu, mandagiu tonu ir labai užtikrintu veidu. Todėl verslui reikia ne tik įrankių, bet ir įpročio tikrinti.
KĄ PASIDARYTI ŠIĄ SAVAITĘ
Šią savaitę susikurkite paprastą lentelę: užduotis, modelis, kaina, žmogaus taisymo laikas, priimtas rezultatas. Nuobodu? Taip. Bet būtent ten pasimato tiesa.
Šaltinis: OpenAI.
DUK
Ką paskelbė OpenAI?
OpenAI pateikė penkis principus, kaip įmonėms valdyti DI investicijas agentinių procesų eroje.
Kodėl tokenų kaina nepakanka?
Nes pigi užklausa gali sukurti daug taisymo darbo, o brangesnis modelis kartais greičiau pasiekia priimtiną rezultatą.
Ką matuoti vadovui?
Kainą už priimtą rezultatą, sutaupytą laiką, riziką ir procesų mastą.
Jei norite DI naudoti ne dėl mados, pradėkite nuo vieno proceso. Paimkite užduotį, kuri kartojasi kas savaitę, susirašykite žingsnius ir tik tada junkite įrankį. Daugiau praktinių DI taikymo pavyzdžių rasite MasterSprint.
