PrismML mažas modelis: DI nauda gali tilpti ne tik milžiniškuose serveriuose

PrismML mažas modelis pataiko į klausimą, kurį vis dažniau girdžiu iš verslų: ar DI visada turi gyventi milžiniškame debesyje?

Dideli modeliai įspūdingi. Jie sprendžia sudėtingas užduotis, rašo, analizuoja, kalba, kuria. Bet kasdieniam darbui kartais nereikia traktoriaus, kai užtenka gero atsuktuvo.

TechCrunch rašo apie PrismML, kuris tikisi, kad mažas kalbos modelis gali pakeisti tai, kaip naudojame DI.

MAŽAS NEREIŠKIA SILPNAS

Mažų modelių idėja paprasta: ne kiekvienai užduočiai reikia didžiausio modelio rinkoje. El. laiško klasifikavimas, trumpas apibendrinimas, vietinis paieškos pagalbininkas ar įrenginio komandos gali veikti ir su lengvesne sistema.

Tai ypač svarbu telefonams, nešiojamiesiems kompiuteriams ir įmonėms, kurios nenori kiekvieno veiksmo siųsti į išorinį serverį.

Mažesnis modelis gali reikšti mažesnę kainą, greitesnį atsakymą ir daugiau privatumo. Žinoma, jei užduotis jam tinkama.

KODĖL TAI SVARBU ĮMONĖMS

Daug vadovų DI mato kaip brangų projektą: prenumeratos, API, debesys, saugumas, konsultantai. Maži modeliai primena, kad ne viskas turi prasidėti nuo milžiniško biudžeto.

Kai kuriuos procesus galima tvarkyti lokaliai arba su siauresniu modeliu. Pavyzdžiui, vidinių dokumentų paiešką, standartinių užklausų ruošinius, techninės pagalbos triage.

Čia svarbiausia ne modelio dydis, o užduoties tikslumas. Blogai parinktas didelis modelis yra kaip samdyti profesorių rūšiuoti sąvaržėles.

KUR ATSARGUMAS

Maži modeliai ne viską moka. Jie gali prasčiau samprotauti, klysti platesniuose klausimuose, neturėti pakankamai žinių arba greičiau pasimesti, kai užduotis tampa neaiški.

Todėl geras naudojimas prasideda nuo ribų. Ką modelis daro? Ko nedaro? Kada perduoda žmogui? Kaip matuojame klaidas?

Jei ribos aiškios, mažas modelis gali būti labai praktiškas. Jei ribų nėra, jis tampa dar vienu įrankiu, kuriuo žmonės nusivilia per dvi savaites.

FAQ

Kas yra mažas kalbos modelis?

Tai DI modelis, turintis mažiau parametrų ir dažnai skirtas siauresnėms, pigesnėms arba vietinėms užduotims.

Kuo jis skiriasi nuo didelių modelių?

Dideli modeliai paprastai geba atlikti platesnį užduočių spektrą, o mažesni modeliai gali būti greitesni, pigesni ir tinkamesni konkrečiam darbui.

Ar mažas modelis tinka verslui?

Taip, jei užduotis aiški, rizika valdoma, o rezultatų kokybė matuojama realiais testais.

Šaltinis: TechCrunch.

Prieš pirkdami didžiausią DI sprendimą, užsirašykite vieną konkretų procesą. Kartais laimi ne galingiausias įrankis, o tas, kuris tiksliai pataiko į darbą.