AIR gauna 50 mln. dolerių: DI agentų įrankiams reikia patikros

DI agentų įrankiai tampa atskira saugumo tema. TechCrunch rašo, kad AIR pritraukė 50 mln. dolerių tam, kad padėtų įmonėms tikrinti, kokius įgūdžius, papildinius ir MCP serverius naudoja jų agentai.

Skamba techniškai. Bet verslo kalba tai labai paprasta: jei agentui duodi rankas, turi žinoti, ką tos rankos liečia.

Iki šiol daug kas žiūrėjo į patį modelį. Dabar dėmesys keliasi į tai, kas prijungta aplink jį.

AGENTAS NĖRA VIEN CHATBOTAS

Paprastas pokalbių robotas atsako tekstu. Agentas gali jungtis prie vidinių sistemų, naudoti papildinius, kviesti išorines paslaugas ir bandyti atlikti užduotį iki galo.

Būtent todėl atsiranda nauja rizika. Blogai patikrintas papildinys gali atverti duomenis, atlikti ne tą veiksmą arba tapti keliu į vidinę sistemą.

Tai jau panašu į programinės įrangos tiekimo grandinę. Tik greitesnę ir sunkiau matomą.

KĄ AIR BANDO SPRĘSTI

Pasak TechCrunch, AIR platforma gali aptikti įmonėje veikiančius agentus, nuolat vertinti jų naudojamus įrankius ir blokuoti nepageidaujamą elgesį.

Čia svarbus žodis yra nuolat. Vieną kartą patikrinti neužtenka, nes agento aplinka keičiasi: atsiranda naujų serverių, leidimų, papildinių, darbuotojų įpročių.

Jei DI agentai tampa darbo dalimi, jų inventorius turi būti toks pat rimtas kaip kompiuterių ar prieigų sąrašas.

PAMOKA ĮMONĖMS

Prieš leidžiant agentui veikti, verta susirašyti tris dalykus: kokius įrankius jis gali naudoti, kokius duomenis mato ir kokius veiksmus gali atlikti be žmogaus patvirtinimo.

Jeigu atsakymai migloti, agentas dar neparuoštas. Ne todėl, kad DI blogas. Todėl, kad tvarka dar silpna.

Gera agentų strategija prasideda ne nuo didelio pažado, o nuo leidimų lentelės.

FAQ

Ką daro AIR?

AIR kuria platformą, kuri padeda įmonėms aptikti DI agentus ir tikrinti jų naudojamus įgūdžius, papildinius bei kitus priedus.

Kodėl DI agentų įrankius reikia tikrinti?

Nes agentai gali jungtis prie sistemų ir atlikti veiksmus, todėl nepatikrintas įrankis gali tapti duomenų ar saugumo rizika.

Ką įmonė turėtų padaryti pirmiausia?

Susirašyti agentų naudojamus įrankius, leidimus, duomenų prieigas ir veiksmus, kuriems būtinas žmogaus patvirtinimas.

Šaltinis: TechCrunch.

Jei jūsų komanda testuoja agentus, pradėkite nuo inventoriaus. Vienas lapas su leidimais dažnai sutaupo daugiau nervų nei dar vienas demo.