DI agentų prieigą Nvidia siūlo valdyti atskira infrastruktūra

Nvidia pristatė OpenShell Reference Architecture, skirtą įmonėse veikiantiems DI agentams izoliuoti, stebėti ir apriboti jų prieigą prie išteklių. Spalio 21 dieną The Register aprašytas sprendimas remiasi bendrovės OpenShell vykdymo aplinka ir Nvidia aparatine infrastruktūra. Juo siūloma valdyti ne vien modelio atsakymus, bet ir agento tapatybę, naudojamus prisijungimo duomenis bei leidžiamų veiksmų ribas.

Pasak The Register, dabartinių programavimo agentų kūrėjai jau riboja prieigą prie tokių priemonių kaip curl ar bash ir naudoja izoliuotas aplinkas. Tokios priemonės skirtos atskirti agento procesą nuo kompiuterio, kuriame jis veikia, ir sumažinti netinkamų veiksmų pasekmes. Nvidia siūloma architektūra prie šio izoliavimo prideda centralizuotą tapatybių bei taisyklių vykdymą, įskaitant tarpininkaujamą prieigą prie prisijungimo duomenų.

The Register nurodo, kad modeliams vykdyti numatoma Vera Rubin infrastruktūra, o agentus valdančioms programoms skiriami Vera procesoriai. BlueField-4 duomenų apdorojimo procesoriai kartu su Nvidia Sentry programine įranga turėtų stebėti agentų elgesį. Tai konkretus infrastruktūros planas, todėl jo nereikėtų suprasti kaip vieno universalaus nustatymo, kurį galima įjungti bet kuriame kompiuteryje.

Bendrovės vadovas Jensenas Huangas pranešime skirtingus darbus priskiria Rubin, Vera ir BlueField komponentams, aprašo The Register. Modelių vykdymas, agentų veiksmų organizavimas ir jų priežiūra čia pateikiami kaip atskiri, bet tarpusavyje susieti sluoksniai. Leidinys kartu pažymi, kad dalis būsimų galimybių, susijusių su maršrutizavimu ir darbo procesais, dar tik numatoma plėtrai.

Tarp partnerių, galinčių pasiūlyti Linux ir Kubernetes infrastruktūrą šiam planui, minimos Canonical, SUSE ir Red Hat bendrovės. The Register taip pat išvardija Amazon Web Services, Google Cloud ir Microsoft Azure kaip prie iniciatyvos pritrauktus debesijos tiekėjus. Architektūra numatoma skirtingų laboratorijų agentams, tarp jų Anthropic, Google, Meta ir OpenAI technologijomis grindžiamiems sprendimams.

Europos bankai BBVA ir Santander vertina, kaip OpenShell architektūra atitinka jų saugumo ir valdymo reikalavimus, nurodo The Register. Tai nėra teiginys, kad abu bankai jau būtų baigę tokį diegimą ar paskelbę jo rezultatus. SAP savo ruožtu integruoja architektūrą su Joule Studio vykdymo aplinka, siekdama kontroliuoti agentų operacijas.

The Register tarp architektūrai numatytų modelių kūrėjų papildomai išvardija Cohere, Perplexity, Reflection ir SpaceX, pabrėždamas skirtingų agentų aprėptį. Vis dėlto ši tiekėjų įvairovė nepakeičia aprašyto aparatinio pagrindo: bendrovė siūlo savo infrastruktūrą, o ne nepriklausomą visų gamintojų įrangos standartą.

Leidinys atkreipia dėmesį, kad OpenShell pagal numatytuosius nustatymus renka telemetriją, nors naudotojams leidžiama jos atsisakyti. Nvidia taip pat perspėja, kad pasirinkti išoriniai modelių tiekėjai, agentai ir priemonės gali turėti savo privatumo sąlygas. Toliau svarbūs bus partnerių diegimai ir saugumo problemų sprendimas: The Register pažymi, kad projekto GitHub saugykloje dar yra atvirų su saugumu susijusių klausimų.