LFM2.5 lokalūs agentai: mažas modelis nori dirbti telefone
·
LFM2.5 lokalūs agentai rodo kryptį, kuri man atrodo labai praktiška: ne viskas turi bėgti per debesį.
Liquid AI Hugging Face tinklaraštyje pristatė LFM2.5-2.6B – mažą modelį, skirtą agentams, kurie gali veikti įrenginyje. Minimi įrankių kvietimai, kelių žingsnių darbo eiga ir greitis, tinkamas net kasdieniam kompiuteriui ar telefonui.
Čia ne konkursas „kas didžiausias“. Čia klausimas: kas pakankamai geras ir arti vartotojo?
KODĖL LOKALUS DI GRĮŽTA
Debesis patogus. Bet jis ne visada tinka. Kartais duomenys jautrūs. Kartais ryšys prastas. Kartais kaštai per dideli. Kartais tiesiog norisi, kad pagalbininkas veiktų čia, o ne kažkur toli.
Mažas modelis telefone nereiškia, kad jis pakeis stipriausius modelius. Nereikia fantazuoti.
Bet jis gali atlikti daug paprastų darbų: rūšiuoti tekstą, padėti su užrašais, vykdyti lokalius įrankius, atlikti mažas automatizacijas, saugoti kontekstą įrenginyje.
AGENTUI SVARBU NE TIK PROTAS
Agentas turi ne tik atsakyti. Jis turi padaryti kelis žingsnius. Pakviesti įrankį. Patikrinti rezultatą. Tęsti darbą. Čia net mažas modelis gali būti vertingas, jei užduotis aiški.
Liquid AI pabrėžia greitį ir įrenginių palaikymą. Tokie dalykai dažnai skamba mažiau įspūdingai nei naujas didelis modelis, bet vartotojui jie jaučiasi iš karto.
Jei atsakymas ateina greitai ir duomenys neišeina iš įrenginio, pasitikėjimas auga.
KUR PRADĖTI
Lietuvos įmonei čia verta pagalvoti apie paprastus vidinius pagalbininkus. Ne klientų aptarnavimą nuo pirmos dienos. Ne teisinių sprendimų automatizavimą. Pradėkite nuo mažų, mažos rizikos darbų.
Pavyzdžiui: dokumento santrauka kompiuteryje, susitikimo užrašų sutvarkymas, lokali užduočių rūšiavimo pagalba, vidinių failų pervadinimas pagal taisykles.
Maži agentai gali atrodyti kukliai. Bet kartais būtent jie pirmi tampa kasdieniu įpročiu.
Šaltinis: Liquid AI on Hugging Face.
Praktinis klausimas pabaigai: kur šita tema paliečia jūsų komandą šią savaitę? Ne po metų. Dabar.
Jei norite DI įrankius susidėti ne kaip žaislų sąrašą, o kaip darbo sistemą, pasižiūrėkite MasterSprint arba Salvaro darbus su įmonėmis.
