Microsoft DI agentus tikrins kaip galimas vidaus grėsmes

Microsoft pristatė saugumo įrankius, kurie DI agentų riziką vertins nuolat ir pagal nustatytus pokyčius galės apriboti jų prieigą. Spalio 19 dieną GeekWire aprašytos funkcijos skirtos organizacijoms, kuriose agentai pasiekia vidinius duomenis ir savarankiškai atlieka darbo veiksmus.

Pasak GeekWire, naujovės įtraukiamos į Microsoft 365 E7 paketą ir Project Perception saugumo sistemą, o ne pristatomos kaip atskiras modelis. Bendrovė siekia stebėti ne vien agentui suteiktus leidimus, bet ir tai, ar jo elgesys nenutolsta nuo paskirtos užduoties.

Leidinys nurodo, kad rizikos vertinimui naudojami signalai apie agento pasiekiamus duomenis ir jo veiksmų atitiktį pradiniam darbui. Padidėjus rizikai, sistema galėtų atimti galimybę keisti informaciją, tačiau palikti teisę ją skaityti, jeigu pasirinktos taisyklės tai leidžia.

Kitos GeekWire aprašytos reakcijos apima žmogaus patvirtinimo reikalavimą svarbiam veiksmui ir galimybę visiškai išjungti konkretų agentą. Taip kontrolė perkeliama į aplinkinę infrastruktūrą, užuot apsiribojus paties modelio pažadu laikytis gautų instrukcijų ar saugumo apribojimų.

Microsoft taip pat plečia darbuotojų kompiuteriuose veikiančių agentų aptikimą: pagal publikaciją, atpažįstamų tipų skaičius didėja nuo 25 iki 60. Tarp paminėtų įrankių yra Anthropic Claude Code, OpenAI Codex ir GitHub Copilot, todėl stebėjimas neapsiriboja vien Microsoft produktais.

Į Project Perception įtraukiami ir Guardian Agents, kurie, pasak GeekWire, galės tirti, kodėl pasikeitė kito agento rizikos lygis. Jie turės rekomenduoti arba atlikti apribojimo veiksmus; konkretus automatinio reagavimo mastas priklausys nuo organizacijos nustatytos kontrolės ir leidimų.

Oficialiame Project Perception pristatyme Microsoft jau aprašo tris specializuotas gynybos roles: spragų ieškančius, incidentus tiriančius ir trūkumus šalinančius agentus. Bendrovė nurodo, kad didelio poveikio sprendimams turi likti žmogaus patvirtinimas, o sistemos veikla turi būti atsekama.

GeekWire primena, kad pati Project Perception sistema pristatyta liepą, todėl dabartinė naujiena yra papildomos priežiūros funkcijos, ne jos sukūrimas. E7 licencijavimo lygis pradėtas siūlyti gegužę ir, leidinio duomenimis, kainuoja 99 dolerius vienam naudotojui per mėnesį.

Į šį paketą, kaip nurodo GeekWire, taip pat įeina Microsoft 365 Copilot, E5 produktyvumo bei saugumo priemonės, Entra Suite ir Agent 365. Bendrovės oficiali dokumentacija Project Perception tebelaiko ribotos viešos peržiūros produktu, prieinamu pakviestai klientų grupei.

Oficialiame produkto puslapyje Microsoft nurodo, kad Project Perception naudojimas apmokestinamas pagal sunaudotus saugumo skaičiavimo vienetus, kurių poreikis priklauso nuo darbo. Šis principas apibūdina pačią sistemą, todėl E7 licencijos kainos negalima automatiškai laikyti visų galimų agentų operacijų galutine sąskaita.

Todėl naujų funkcijų paskelbimas dar nereiškia, kad visas agentų priežiūros galimybes jau gali įjungti kiekvienas Microsoft klientas be papildomų sąlygų. Toliau svarbūs bus platesnio prieinamumo terminai ir tai, kurios reakcijos bus leidžiamos konkrečiuose organizacijų saugumo nustatymuose.