Palantir ir NVIDIA Nemotron: saugus DI keliasi į uždaras aplinkas
NVIDIA aprašė Palantir ir Nemotron open models naudojimą JAV agentūroms ir kritinei infrastruktūrai.
Šiame straipsnyje · 6 dalys
- Kas yra saugus DI? Tai DI naudojimas su aiškiomis duomenų, prieigos, audito ir infrastruktūros taisyklėmis.
- Kodėl Palantir ir NVIDIA svarbu? Jų pavyzdys rodo, kaip DI diegiamas jautriose organizacijose ir uždarose aplinkose.
- Ar atviri modeliai tinka verslui? Taip, bet reikia aiškiai valdyti diegimo aplinką ir duomenų prieigas.
saugus DI skamba kaip techninis terminas. Bet kai pažiūri praktiškai, čia yra labai žemiškas klausimas: kiek darbo darome rankomis tik todėl, kad niekas neprisėdo sutvarkyti proceso?
NVIDIA aprašė, kaip Palantir su Nemotron atvirais modeliais taiko saugų DI JAV agentūroms ir kritinės infrastruktūros operatoriams. Čia ne istorija apie gražesnį chatbotą. Čia istorija apie duomenis, kurie negali tiesiog išvažiuoti į bet kurį debesį.
Man tokiose naujienose visada įsijungia mažas vidinis buhalteris. Ne tas, kuris skaičiuoja sąskaitas, o tas, kuris klausia: kiek tai kainuos, kas prižiūrės ir kur gali lūžti?
Kas nutiko
Palantir jungia AIP, Foundry, Ontology ir Apollo su NVIDIA Nemotron modeliais. NVIDIA akcentuoja uždaras arba izoliuotas aplinkas, kur duomenys ir modeliai laikomi arčiau organizacijos kontrolės.
Kai kalbame apie valstybę, energetiką, gynybą ar finansus, klausimas nėra tik „ar modelis protingas?“ Klausimas paprastesnis ir kietesnis: kur yra duomenys, kas prie jų prieina, kas lieka loguose.
Kodėl tai svarbu
Saugus DI svarbus todėl, kad daugelis įmonių negali visko kelti į viešus įrankius. Kartais dėl teisės aktų. Kartais dėl klientų pasitikėjimo. Kartais tiesiog dėl sveiko proto.
DI jau nebe vien langelis, į kurį įmetame tekstą. Jis jungiasi prie įrankių, moka kviesti servisus, gali veikti keliais žingsniais ir pradeda liesti tikrus verslo pinigus. Čia romantika baigiasi. Prasideda tvarka.
Ką tai reiškia verslui
Verslui ši naujiena rodo kryptį: DI diegimas bręs nuo pavienių paskyrų prie valdomų aplinkų, leidimų, auditų ir aiškių duomenų ribų.
- žinoti, kur fiziškai ir teisiškai laikomi duomenys
- atskirti atvirus modelius nuo atvirų duomenų
- turėti prieigų valdymą
- audituoti agentų ir modelių veiksmus
Pavyzdys: įmonė gali naudoti atvirą modelį vidinėje infrastruktūroje, bet neleisti jam matyti visų klientų duomenų. Tik tiek, kiek reikia konkrečiai užduočiai.
Kur pasislėpusi rizika
Rizika – manyti, kad žodis „atviras“ automatiškai reiškia saugus. Atviras modelis gali būti naudingas, bet saugumą sukuria architektūra, teisės ir procesai.
Blogiausia DI klaida dažnai neatrodo kaip klaida. Ji ateina gražiai parašytu sakiniu, mandagiu tonu ir labai užtikrintu veidu. Todėl verslui reikia ne tik įrankių, bet ir įpročio tikrinti.
Ką pasidaryti šią savaitę
Peržiūrėkite vieną DI įrankį, kurį jau naudojate, ir atsakykite: kokie duomenys į jį keliauja, kur jie saugomi, kas turi administratoriaus prieigą?
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
