GovCloud gavo atvirus DI modelius: saugus sektorius nebėra už stiklo
·
atviri DI modeliai skamba kaip techninis terminas. Bet kai pažiūri praktiškai, čia yra labai žemiškas klausimas: kiek darbo darome rankomis tik todėl, kad niekas neprisėdo sutvarkyti proceso?
AWS paskelbė, kad Amazon Bedrock AWS GovCloud aplinkoje dabar palaiko NVIDIA Nemotron ir OpenAI GPT OSS atvirus modelius. Tai svarbu organizacijoms, kurios negali tiesiog imti bet kokio viešo DI įrankio ir įkelti ten jautrių duomenų.
Man tokiose naujienose visada įsijungia mažas vidinis buhalteris. Ne tas, kuris skaičiuoja sąskaitas, o tas, kuris klausia: kiek tai kainuos, kas prižiūrės ir kur gali lūžti?
KAS NUTIKO
Į GovCloud ateina OpenAI GPT OSS 120B ir 20B bei keli NVIDIA Nemotron modeliai. AWS pabrėžia vieną API, Bedrock valdymą, saugią infrastruktūrą ir galimybę dirbti su modeliais aplinkoje, kuri skirta reguliuojamiems JAV viešojo sektoriaus bei rangovų darbams.
Čia man primena įmonę, kuri nori naudoti naują įrankį, bet jos teisininkas sėdi prie durų su sąrašu klausimų. Kur duomenys? Kas matys? Kaip ištrinsim? Kas loguose?
KODĖL TAI SVARBU
Atviri DI modeliai svarbūs ne dėl mados. Jie duoda daugiau pasirinkimo, daugiau kontrolės ir mažiau priklausomybės nuo vieno tiekėjo. Kai modeliai pasiekiami reguliuojamoje debesijos aplinkoje, rimtesnės organizacijos gali bandyti ne tik demo, bet ir tikrus procesus.
DI jau nebe vien langelis, į kurį įmetame tekstą. Jis jungiasi prie įrankių, moka kviesti servisus, gali veikti keliais žingsniais ir pradeda liesti tikrus verslo pinigus. Čia romantika baigiasi. Prasideda tvarka.
KĄ TAI REIŠKIA VERSLUI
Verslui tai signalas: DI pasirinkimas vis labiau panašėja į infrastruktūros sprendimą. Modelis svarbus, bet šalia jo ateina regionas, saugumas, billing, auditai ir prieigos.
- vertinti modelį kartu su aplinka, kurioje jis veiks
- nekelti jautrių duomenų į nepatikrintus įrankius
- turėti modelių keitimo planą
- skaičiuoti ne tik tokenų kainą, bet ir valdymo kainą
Praktinis pavyzdys: viešojo sektoriaus rangovas gali testuoti dokumentų santraukas GovCloud aplinkoje, o ne siųsti medžiagą į neaiškų išorinį įrankį.
KUR PASISLĖPUSI RIZIKA
Rizika – pagalvoti, kad atviras modelis automatiškai reiškia saugų modelį. Ne. Saugumą sukuria modelis, aplinka, prieigos, logai ir žmonių disciplina.
Blogiausia DI klaida dažnai neatrodo kaip klaida. Ji ateina gražiai parašytu sakiniu, mandagiu tonu ir labai užtikrintu veidu. Todėl verslui reikia ne tik įrankių, bet ir įpročio tikrinti.
KĄ PASIDARYTI ŠIĄ SAVAITĘ
Susirašykite, kur šiandien jūsų komandoje naudojami DI įrankiai, ir pažymėkite, kur keliauja duomenys. Jei nežinote, čia pirmas darbas.
Šaltinis: Amazon Web Services.
DUK
Kas pasikeitė GovCloud aplinkoje?
Amazon Bedrock GovCloud aplinkoje atsirado OpenAI GPT OSS ir NVIDIA Nemotron modeliai.
Kodėl tai aktualu įmonėms?
Tai rodo, kad DI modeliai vis dažniau bus renkami kartu su saugumo ir duomenų valdymo reikalavimais.
Ar atviri modeliai visada saugesni?
Ne. Saugumas priklauso nuo diegimo, prieigų, logų ir naudojimo taisyklių.
Jei norite DI naudoti ne dėl mados, pradėkite nuo vieno proceso. Paimkite užduotį, kuri kartojasi kas savaitę, susirašykite žingsnius ir tik tada junkite įrankį. Daugiau praktinių DI taikymo pavyzdžių rasite MasterSprint.
