Nauji Mac kompiuteriai vietiniam DI: Apple stato ant modelių tavo kompiuteryje
Ars Technica aprašo naujus Mac Studio ir Mac mini, sukurtus galvojant apie vietinį DI. Tai ženklas, kad dalis modelių grįžta iš debesies į darbo stalą.
Šiame straipsnyje · 4 dalys
- Kas yra vietinis DI? Tai DI modelių vykdymas vartotojo įrenginyje, pavyzdžiui, kompiuteryje ar telefone, o ne tik debesies serveryje.
- Kodėl Apple nauji Mac svarbūs DI temai? Ars Technica rašo, kad nauji Mac Studio ir Mac mini orientuoti į vietinį DI inferencą ir didesnius darbo krūvius įrenginyje.
- Ar vietinis DI pakeis debesį? Ne visiškai. Greičiausiai laimės hibridinis modelis: paprastesnės užduotys vietoje, sudėtingesnės – debesyje.
Vietinis DI Mac kompiuteriuose yra viena iš tų temų, kuri iš pradžių skamba technikams. Bet ji labai greitai taps vadovų tema.
Ars Technica rašo, kad nauji Mac Studio ir Mac mini sukurti aiškiai žiūrint į vietinį DI inferencą. Paprastai tariant, dalis modelio darbo vyksta tavo kompiuteryje, o ne kažkur debesyje.
Ir čia prasideda įdomioji dalis: kai modelis dirba vietoje, keičiasi privatumas, kaštai ir darbo greitis.
Kodėl viskas neturi bėgti į debesį
Debesis patogus. Bet jis turi kainą. Duomenys keliauja iš įrenginio, reikia interneto, atsiranda vėlavimas, o kiekvienas didesnis naudojimas tampa sąskaita.
Vietinis DI leidžia bent dalį užduočių atlikti šalia failų. Teksto rūšiavimas, nuotraukų analizė, garso transkribavimas, kodo pagalba, vidinių dokumentų paieška – ne viskam reikia milžiniško modelio.
Kartais geriau mažesnis modelis šalia darbo stalo nei didelis modelis už trijų vartų.
Ką tai reiškia įmonėms
Įmonėms vietinis DI gali sumažinti jautrių duomenų keliones. Jei analizė vyksta įrenginyje, paprasčiau kontroliuoti, kas iškeliauja lauk.
Tai nereiškia, kad debesis mirė. Dideli modeliai vis tiek bus reikalingi sudėtingoms užduotims. Bet atsiras hibridinis darbas: dalis vietoje, dalis debesyje, dalis su žmogaus patvirtinimu.
Toks modelis mažiau blizga pristatyme, bet daugiau duoda kasdienėje operacijoje.
Lietuviškas praktinis kampelis
Jei jūsų komanda dirba su jautriais dokumentais, finansais ar klientų duomenimis, vietinis DI vertas atskiro bandymo. Ne dėl mados. Dėl kontrolės.
Paimkite vieną procesą: susitikimų transkripcijas, dokumentų santraukas ar vidinių failų paiešką. Patikrinkite, ar vietinis modelis pakankamai geras, kiek kainuoja ir kokia duomenų rizika.
Kartais atsakymas bus „dar ne“. Bet geriau tai žinoti iš testo, o ne iš reklaminio pažado.
Šią savaitę pasiimkite vieną jautrų procesą ir paklauskite: ar šitas DI darbas tikrai turi keliauti į debesį?
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
