DGX Spark: vietiniai DI agentai grįžta ant darbo stalo
·
DGX Spark šiandien nėra vien techninė naujiena. Čia yra klausimas, kuris ateina iki vadovo stalo: ką leisime DI daryti praktiškai, kiek tai kainuos ir kas patikrins rezultatą?
DGX Spark istorijoje man įdomus vienas posūkis: DI agentai nebūtinai turi gyventi tik debesyje. Kai kuriems darbams jie grįžta arčiau žmogaus, duomenų ir įrangos.
Man tokiose istorijose visada įsijungia tas mažas balsas galvoje: gerai, gražu, bet kur čia realus darbas? Ne demonstracija scenoje, ne gražus paveiksliukas, o pirmadienio rytas komandoje, kai kažkas turi priimti sprendimą.
KAS NUTIKO
NVIDIA aprašė birželio DGX Spark programinės įrangos leidimą, kuris greitina pirmą paleidimą, gerina vietinių agentų darbą ir palaiko kelių mazgų klasterius. Tikslas – lengviau paleisti agentus vietinėje aplinkoje.
Debesis patogus. Bet kartais duomenys jautrūs, ryšys neidealus, o delsimas erzina. Tada vietinis DI pradeda atrodyti ne kaip seniena, o kaip labai praktiškas pasirinkimas.
KODĖL VERTA SUSTOTI
Vietiniai agentai gali būti naudingi kūrėjams, tyrėjams, gamybai ir organizacijoms, kurios nori daugiau kontrolės. Ypač kai reikia dirbti su didesniais modeliais, bet nenorima visko siųsti į išorinę infrastruktūrą.
DI rinka dabar primena treniruotę, kur visi nori iš karto užsidėti sunkiausias lopetėles baseine. Tik paskui paaiškėja, kad technika dar byra, kvėpavimas ne vietoje, o rankos pavargsta greičiau nei ego spėja pasiteisinti.
KĄ TAI REIŠKIA VERSLUI
Verslui tai reiškia, kad DI architektūra gali būti mišri: dalis darbų debesyje, dalis vietoje. Ne ideologija, o skaičiavimas pagal kainą, privatumą, greitį ir priežiūrą.
- įvertinti, kurie duomenys negali keliauti į debesį
- skaičiuoti vietinės įrangos ir debesies kainą
- turėti žmogų, kuris prižiūri infrastruktūrą
- testuoti realų delsimo skirtumą
Pirmas scenarijus gali būti vietinis dokumentų agentas, kuris analizuoja vidines technines instrukcijas ir nekelia jų į išorinį servisą.
KUR GALI SKAUDĖTI
Rizika – nusipirkti geležį be darbo plano. Įranga pati vertės nesukuria. Vertę sukuria procesas, kuriam vietinis DI iš tikro reikalingas.
Blogiausia klaida čia dažnai ne techninė. Blogiausia klaida yra tyli. Įrankis įjungtas, visi galvoja, kad kažkas prižiūri, o iš tikro niekas nežino, kas atsakingas už paskutinį sprendimą.
KĄ PASIDARYTI ŠIĄ SAVAITĘ
Surašykite tris DI užduotis ir pažymėkite, ar svarbesnis greitis, privatumas ar kaina. Tada aiškiau matysis, kur reikia debesies, o kur vietinio sprendimo.
Šaltinis: NVIDIA Developer.
DUK
Kas yra DGX Spark?
Tai NVIDIA sprendimas vietiniams DI darbo krūviams, agentams ir eksperimentams.
Kodėl vietiniai agentai aktualūs?
Jie gali padėti, kai svarbus privatumas, reakcijos laikas arba kontrolė.
Ar viską verta kelti iš debesies?
Ne. Reikia skaičiuoti pagal konkretų procesą ir duomenų jautrumą.
Jei DI norite naudoti ne dėl mados, pradėkite nuo vieno proceso. Susirašykite žingsnius, paskirkite žmogų peržiūrai ir tik tada junkite įrankius. Daugiau praktinių DI taikymo pavyzdžių rasite MasterSprint.
