RTX kompiuteriuose veikiantys DI agentai: privatumas kartais prasideda nuo darbo vietos
·
RTX DI agentai šiandien nėra teorinis žaislas. Tai jau darbas, pinigai, duomenys ir kartais labai žemiškas klausimas: kas prisiims atsakomybę, kai DI pradės veikti už žmogų?
NVIDIA primena paprastą, bet dažnai pamirštamą dalyką: ne visi DI agentai turi gyventi debesyje. RTX AI PCs gali paleisti agentus lokaliai, pavyzdžiui, su AnythingLLM.
Turiu prisipažinti, tokias naujienas skaitau ne kaip blizgančią vitriną. Skaitau kaip žmogus, kuris iš karto galvoja apie komandą pirmadienio rytą. Kas iš to bus naudinga? Kur bus painiava? Ir kur po mėnesio kas nors pasakys: „mes galvojom, kad čia automatiškai susitvarkys“.
KAS NUTIKO
NVIDIA aiškina, kad agentai apdoroja vartotojo užklausą, pasiima informaciją iš duomenų šaltinių, tikslina užduotį ir gali atlikti veiksmus. Lokalus vykdymas padeda sumažinti delsą ir jautrių duomenų judėjimą į išorę.
Čia kaip su dokumentais ant stalo. Viena yra nusiųsti juos nepažįstamam konsultantui. Kita – pasikviesti žmogų į kabinetą ir parodyti tik tai, ką reikia.
Čia svarbi detalė: kalbame ne apie dar vieną gražų demonstracinį video. Kalbame apie produktus, politiką, infrastruktūrą arba tyrimus, kurie keičia, kaip žmonės dirba su DI realiose organizacijose.
KODĖL TAI SVARBU
Įmonėse vis daugiau klausimų apie duomenų kontrolę. Jei agentas turi dirbti su sutartimis, vidiniais failais ar techniniais dokumentais, lokalus veikimas gali būti rimtas argumentas.
DI jau išlipo iš „parašyk tekstą“ dėžutės. Jis naršo, jungiasi prie įrankių, analizuoja duomenis, planuoja veiksmus, kartais tvarko dokumentus ar padeda priimti sprendimą. Trumpai: jis artėja prie darbo proceso, ne tik prie pokalbio lango.
Ir čia smegenys mėgsta paslysti. Norisi sakyti: „ai, čia dar užsienyje“. Bet tas pats modelis ar funkcija rytoj atsiras kliento kompiuteryje, darbuotojo naršyklėje arba partnerio pasiūlyme.
KĄ TAI REIŠKIA VERSLUI
Verslui lokaliai veikiantys agentai gali būti patrauklūs ten, kur duomenys jautrūs, interneto ryšys ne visada stabilus arba atsakymo greitis svarbus.
- įvertinti, kurie dokumentai negali keliauti į debesį
- testuoti lokalų RAG su vidiniais failais
- matuoti greitį ir tikslumą
- nepamiršti įrenginių saugumo ir atnaujinimų
Geras pilotas: lokali techninės dokumentacijos paieška. Agentas atsako pagal vidinį aplanką, o darbuotojas tikrina, ar atsakymas remiasi teisingu šaltiniu.
Man patinka paprastas testas: ar po šios naujienos tavo komanda turi vieną aiškesnį sprendimą? Jei ne, vadinasi dar tik skaitome. Skaityti galima. Tik nereikia apsimesti, kad tai jau strategija.
KUR GALI SKAUDĖTI
Rizika – galvoti, kad lokaliai reiškia automatiškai saugu. Jei kompiuteris be priežiūros, be atnaujinimų ir su per plačiomis prieigomis, problema niekur nedingo.
Dažniausia klaida labai ūkiška. Žmonės įsijungia įrankį, pabando, nustemba, pasidžiaugia ir tada palieka viską savieigai. Po kelių savaičių paaiškėja, kad vieni darbuotojai kelia jautrius failus, kiti matuoja naudą iš jausmo, o treti net nežino, kas leidžiama.
Ne tragedija. Bet tvarkos reikia.
KĄ PASIDARYTI ŠIĄ SAVAITĘ
Pasirinkite vieną jautrių dokumentų rinkinį ir nuspręskite, ar jis gali būti naudojamas debesyje, ar jam reikia lokalaus DI bandymo.
Šaltinis: NVIDIA Blog.
DUK
Kas yra RTX DI agentai?
Tai DI agentai, kurie gali veikti RTX AI PC įrenginiuose, naudodami vietinį skaičiavimą.
Kodėl lokalus veikimas svarbus?
Jis gali sumažinti delsą ir padėti jautrius duomenis laikyti arčiau įmonės įrenginių.
Ar lokalus agentas visada saugus?
Ne. Reikia tvarkyti prieigas, įrenginio saugumą ir duomenų valdymo taisykles.
Jei nori DI naudoti praktiškai, pradėk nuo vieno proceso. Vienas pasikartojantis darbas. Vienas atsakingas žmogus. Vienas matavimas. Daugiau praktikos rasi MasterSprint.
