Microsoft našumo kreivė: DI projektai laimės ne gražiausiu demo, o kaina už rezultatą
·
DI našumo kreivė šiandien nėra teorinis žaislas. Tai jau darbas, pinigai, duomenys ir kartais labai žemiškas klausimas: kas prisiims atsakomybę, kai DI pradės veikti už žmogų?
Microsoft AI liepos 29 d. parašė apie labai praktišką dalyką: ne vien modelio protingumą, o kainą už realų rezultatą. Ten minima, kad kai kuriuose produktuose nauji MAI modeliai mažina GPU kaštus 50-90 proc.
Turiu prisipažinti, tokias naujienas skaitau ne kaip blizgančią vitriną. Skaitau kaip žmogus, kuris iš karto galvoja apie komandą pirmadienio rytą. Kas iš to bus naudinga? Kur bus painiava? Ir kur po mėnesio kas nors pasakys: „mes galvojom, kad čia automatiškai susitvarkys“.
KAS NUTIKO
Microsoft akcentuoja specializuotus modelius: MAI-Code-1-Flash GitHub ir VS Code, Excel užduotims pritaikytus modelius, MAI-Image-2.5 PowerPoint ir OneDrive scenarijuose, MAI-Voice-2-Flash kontaktų centrams bei MAI-Transcribe-1.5 medicinos diktavimui.
Čia yra gera šalto dušo akimirka. Kol vieni ginčijasi, kuris modelis didesnis, realus verslas klausia: kiek kainavo išspręstas darbas?
Čia svarbi detalė: kalbame ne apie dar vieną gražų demonstracinį video. Kalbame apie produktus, politiką, infrastruktūrą arba tyrimus, kurie keičia, kaip žmonės dirba su DI realiose organizacijose.
KODĖL TAI SVARBU
DI projektai bręsta. Pradžioje visi norėjo pamatyti efektą. Dabar ateina buhalterijos momentas: kiek užklausų, kiek klaidų, kiek GPU, kiek žmogaus taisymo, kiek pabaigtų užduočių.
DI jau išlipo iš „parašyk tekstą“ dėžutės. Jis naršo, jungiasi prie įrankių, analizuoja duomenis, planuoja veiksmus, kartais tvarko dokumentus ar padeda priimti sprendimą. Trumpai: jis artėja prie darbo proceso, ne tik prie pokalbio lango.
Ir čia smegenys mėgsta paslysti. Norisi sakyti: „ai, čia dar užsienyje“. Bet tas pats modelis ar funkcija rytoj atsiras kliento kompiuteryje, darbuotojo naršyklėje arba partnerio pasiūlyme.
KĄ TAI REIŠKIA VERSLUI
Lietuvos įmonėms tai labai tiesus priminimas. Jei DI projektas neturi kainos už rezultatą, jis dar nėra valdomas projektas. Jis tik įdomus bandymas.
- matuoti kainą už užbaigtą užduotį
- lyginti mažesnius ir didesnius modelius tame pačiame procese
- nepririšti visos sistemos prie vieno modelio
- atskirti demo kokybę nuo produkcijos kaštų
Pasirinkite vieną procesą, pavyzdžiui, klientų laiškų klasifikavimą. Paleiskite tris modelius ir matuokite ne gražiausią atsakymą, o kiek laiškų buvo sutvarkyta be žmogaus grąžinimo.
Man patinka paprastas testas: ar po šios naujienos tavo komanda turi vieną aiškesnį sprendimą? Jei ne, vadinasi dar tik skaitome. Skaityti galima. Tik nereikia apsimesti, kad tai jau strategija.
KUR GALI SKAUDĖTI
Rizika – pamatyti didelį modelį, gražų atsakymą ir iškart dėti jį visur. Taip galima sudeginti biudžetą tyliai, be jokio pykčio, tiesiog per gerą nuotaiką.
Dažniausia klaida labai ūkiška. Žmonės įsijungia įrankį, pabando, nustemba, pasidžiaugia ir tada palieka viską savieigai. Po kelių savaičių paaiškėja, kad vieni darbuotojai kelia jautrius failus, kiti matuoja naudą iš jausmo, o treti net nežino, kas leidžiama.
Ne tragedija. Bet tvarkos reikia.
KĄ PASIDARYTI ŠIĄ SAVAITĘ
Šią savaitę prie vieno DI darbo pridėkite paprastą lentelę: kaina, laikas, klaidos, žmogaus įsikišimai ir pabaigimo procentas.
Šaltinis: Microsoft AI.
DUK
Kas yra DI našumo kreivė?
Tai požiūris, kai modelio kokybė vertinama kartu su kaina, greičiu ir realiu užduoties rezultatu.
Kodėl mažesni modeliai gali būti naudingi?
Jie gali pigiau ir greičiau atlikti dažnas siauras užduotis, palikdami didelius modelius sunkiausiems atvejams.
Ką matuoti verslui?
Kainą už užbaigtą užduotį, žmogaus taisymus, klaidų dažnį ir laiką iki rezultato.
Jei nori DI naudoti praktiškai, pradėk nuo vieno proceso. Vienas pasikartojantis darbas. Vienas atsakingas žmogus. Vienas matavimas. Daugiau praktikos rasi MasterSprint.
