OpenAI primena: DI biudžetas turi matuoti darbą, ne tik tokenus

Svarbiausia

• Kodėl tokenų kaina nepakanka? Nes pigi užklausa gali sukurti daug taisymo darbo, o brangesnis modelis kartais greičiau pasiekia priimtiną rezultatą.
• Ką matuoti vadovui? Kainą už priimtą rezultatą, sutaupytą laiką, riziką ir procesų mastą.

DI biudžetas skamba kaip techninis terminas. Bet kai pažiūri praktiškai, čia yra labai žemiškas klausimas: kiek darbo darome rankomis tik todėl, kad niekas neprisėdo sutvarkyti proceso?

OpenAI liepos 14 d. paskelbė tekstą apie DI investicijų valdymą agentų eroje. Pagrindinė mintis paprasta: žiūrėti ne vien į tokeno kainą, o į tai, kiek naudingo darbo už tuos pinigus padaroma. Atrodo savaime suprantama. Bet biudžetuose dažnai gyvename atvirkščiai.

Man tokiose naujienose visada įsijungia mažas vidinis buhalteris. Ne tas, kuris skaičiuoja sąskaitas, o tas, kuris klausia: kiek tai kainuos, kas prižiūrės ir kur gali lūžti?

Kas nutiko

OpenAI siūlo matuoti, kas naudoja DI, kokius modelius renkasi, kiek kainuoja konkretus darbas, kada reikia brangesnio modelio ir kada pakanka pigesnio. Jie taip pat akcentuoja valdymą prieš agentinių procesų išplitimą: kas turi prieigą, kokius įrankius DI gali naudoti ir kada reikalingas žmogaus patvirtinimas.

Čia kaip su sporto laikrodžiu. Gali žiūrėti tik į kilometrus. Bet jei nežinai pulso, tempo ir savijautos, nelabai supranti, ar treniruotė buvo protinga, ar tiesiog pasikankinai dėl gražaus skaičiaus.

Kodėl tai svarbu

DI biudžetas svarbus todėl, kad agentai ir ilgesni darbo procesai gali tyliai užauginti sąskaitas. Vienas pokalbis nieko nereiškia. Tūkstančiai bandymų, pakartojimų ir netikrintų automatizacijų jau reiškia.

DI jau nebe vien langelis, į kurį įmetame tekstą. Jis jungiasi prie įrankių, moka kviesti servisus, gali veikti keliais žingsniais ir pradeda liesti tikrus verslo pinigus. Čia romantika baigiasi. Prasideda tvarka.

Ką tai reiškia verslui

Lietuvos įmonėms tai labai praktiškas signalas. Jei vadovas mato tik mėnesio sąskaitą, jis negali atskirti naudingo proceso nuo triukšmo. Reikia matuoti ne „kiek naudojom“, o „ką realiai sutaupėm ar pagerinom“.

• susieti DI išlaidas su konkrečiais procesais
• matuoti rezultatą, o ne tik užklausų kiekį
• brangesnius modelius palikti sudėtingoms užduotims
• turėti limitus komandoms ir žmonėms

Pirmas žingsnis: paimkite tris dažniausiai naudojamas DI užduotis ir paskaičiuokite kainą už priimtą rezultatą. Pavyzdžiui, ne kiek kainavo užklausa, o kiek kainavo vienas paruoštas klientų aptarnavimo atsakymas, kurį žmogus patvirtino.

Kur pasislėpusi rizika

Rizika – optimizuoti pigiausią modelį ir prarasti valandas taisymui. Kita rizika – visur naudoti brangiausią modelį, nes „taip ramiau“. Abu kraštutinumai kainuoja.

Blogiausia DI klaida dažnai neatrodo kaip klaida. Ji ateina gražiai parašytu sakiniu, mandagiu tonu ir labai užtikrintu veidu. Todėl verslui reikia ne tik įrankių, bet ir įpročio tikrinti.

Ką pasidaryti šią savaitę

Šią savaitę susikurkite paprastą lentelę: užduotis, modelis, kaina, žmogaus taisymo laikas, priimtas rezultatas. Nuobodu? Taip. Bet būtent ten pasimato tiesa.