NVIDIA Agent Toolkit: agentams reikia ne magijos, o taisyklių

DI agentai versle dažnai pristatomi taip, lyg pakaktų vieno modelio ir gero prompto. NVIDIA su Agent Toolkit kalba kitaip: agentui reikia modelių, įrankių, įgūdžių ir saugios vykdymo aplinkos.

Man tai patinka. Nes pagaliau mažiau pasakų apie „paspausk mygtuką ir viskas susitvarkys“.

Agentas, kuris dirba su verslo duomenimis, nėra žaisliukas. Jis gali skaityti, rašyti, kviesti įrankius, priimti tarpinius sprendimus. Jeigu duodi jam raktus nuo sandėlio, apskaitos ar klientų duomenų, reikia žinoti, ką jis ten veiks.

Kodėl specializuoti agentai laimi prieš vieną universalų

NVIDIA kalba apie specializuotus DI bendradarbius, kuriuos įmonės gali pritaikyti konkretiems darbams. Čia labai žemiška mintis.

Juk realiame versle neturime vieno žmogaus, kuris vienodai gerai daro finansus, teisę, pardavimus, sandėlį ir kibernetinį saugumą. Kodėl tikimės, kad vienas agentas viską darys be klaidų?

Geresnis kelias: mažesni agentai, aiškesnės rolės, mažiau heroizmo. Vienas tikrina sutartis. Kitas ruošia klientų suvestines. Trečias stebi incidentus. Ketvirtas padeda programuotojams. Ir kiekvienas turi savo ribas.

Kaip komanda. Ne kaip vienas „viską žinantis“ dėdė.

Įrankiai ir įgūdžiai yra agento rankos

Kalbant apie DI, mes dažnai užstringame ties modeliu. Koks pavadinimas? Kiek parametrų? Koks benchmarkas?

Bet versle svarbiau kitas klausimas: ką agentas gali padaryti?

Jeigu agentas neturi prieigos prie reikiamų sistemų, jis bus tik patarėjas. Kartais naudingas, bet ribotas. Jeigu turi per daug prieigos, gali pridaryti bėdos. Todėl Agent Toolkit logika apie įrankius, įgūdžius ir saugų veikimą yra labai praktiška.

Agentui reikia rankų. Bet rankoms reikia taisyklių.

Saugus runtime skamba nuobodžiai. Ir gerai

„Secure runtime“ nėra frazė, kurią žmonės linksmai aptarinėja prie kavos. Bet čia slypi tikroji agentų branda.

Įmonė turi matyti, ką agentas daro. Kokį įrankį kvietė. Kodėl priėmė vieną ar kitą veiksmą. Kur sustojo. Kur paprašė žmogaus leidimo.

Be šito agentas tampa juoda dėže. O juodos dėžės versle ilgai neišgyvena, ypač kai paliečia pinigus, klientus arba teisines rizikas.

Praktinis pavyzdys

Tarkime, turite klientų aptarnavimo komandą. Agentas gali surinkti kliento istoriją, pasiūlyti atsakymą, patikrinti politiką, sukurti vidinę užduotį ir pažymėti riziką.

Bet jis neturėtų savarankiškai grąžinti pinigų didelėms sumoms. Neturėtų keisti sutarties sąlygų. Neturėtų siųsti jautrios informacijos be patvirtinimo.

Tai nėra nepasitikėjimas DI. Tai normalus darbo dizainas.

Ką daryti dabar

Jeigu jūsų įmonėje jau kalbama apie agentus, pasidarykite mažą inventorizaciją:

• Kokias roles agentai galėtų turėti?
• Kokius įrankius jiems reikėtų duoti?
• Kokie veiksmai turi būti tik su žmogaus patvirtinimu?
• Kaip registruosite agento veiksmus?

Šitie atsakymai bus vertingesni už dar vieną modelių palyginimo lentelę.

Agentų era ateina ne per triukšmą, o per tvarkingus, mažus sprendimus. Ir jeigu norisi juos susidėti praktiškai, Salvaro gali padėti nuo pirmo proceso žemėlapio iki veikiančios sistemos.

FAQ

Kas yra NVIDIA Agent Toolkit?

Tai NVIDIA įrankių pagrindas, skirtas kurti specializuotus DI agentus su modeliais, įrankiais, įgūdžiais ir saugiu vykdymu.

Kodėl agentams reikia saugumo?

Nes agentai gali veikti su realiomis sistemomis ir duomenimis. Kuo daugiau veiksmų, tuo svarbesni leidimai, auditai ir ribos.

Ar vienas agentas gali aptarnauti visą verslą?

Teoriškai gali bandyti, bet praktiškai geriau veikia keli specializuoti agentai su aiškiomis rolėmis.

Šaltinis: NVIDIA.