Kaip atpažinti DI agentų saugumo rizikas versle. Šeši praktiniai žingsniai, kuriuos turi pereiti kiekvienas vadovas

Vakar kalbėjau su klientu, kuris vadovauja apskaitos kompanijai. Jis pradėjo įdiegti DI agentą, kuris automatiškai apdoroja sąskaitas faktūras. Pirma savaitė buvo gražu. Antra – irgi. Trečios savaitės pabaigoje agentas nusiuntė klientui sąskaitą su 10 000 eurų klaida. Kompanija turėjo grąžinti pinigus.

Tai ne pavienė istorija. Stanford universiteto AI Index 2026 rodo, kad 89 procentai DI agentų niekada nepasiekia gamybos. Iš tų 11 procentų, kurie pasiekia, sėkmės rodiklis tik 66 procentai.

Kitaip tariant. Dauguma DI agentų sugenda. Mažumai, kurie veikia, vienas iš trijų atvejų vis tiek bus klaida.

Šis vadovas surinktas iš pokalbių su DI saugumo specialistais ir verslininkais, kurie jau įdiegė agentus. Tai šeši praktiniai patarimai, kaip įvertinti, ar DI agentas saugus tavo verslui.

1. Patikrink, ką tiksliai gali agentas

Pirmas klausimas. Koks yra agento „radius”? Kuomet agentas pakliūva į tavo sistemas, kiek ir ką jis gali pakeisti?

Pavyzdys. Agentas, kuris gali tik skaityti tavo el. paštą, yra saugus. Agentas, kuris gali rašyti laiškus klientams, jau ribojamas. Agentas, kuris gali pervesti pinigus, yra rizikingas.

Praktinis testas. Paklausk tiekėjo. „Kokie yra didžiausi galimi nuostoliai, jeigu agentas suklys ar bus apgautas?” Jeigu atsakymas yra „sunku pasakyti”, agentas dar nepasiruošęs gamybai.

Apie tai, kaip pasirinkti tinkamą DI agentą, jau rašėme straipsnyje Kaip pasirinkti tinkamą DI agentą savo užduočiai.

2. Ieškok prompt injection apsaugos

Prompt injection yra metodas, kai užpuolikas pakeičia DI elgesį per kitą kanalą. Pavyzdžiui, klientas atsiunčia el. laišką su slaptu prompt’u, kurį agentas perskaito ir pradeda elgtis kitaip.

Tai realus pavojus, ne teorija. Apie tai jau išsamiai rašėme tekste Kas yra prompt injection.

Kaip patikrinti. Paklausk tiekėjo, kaip jų agentas atskiria patikimus ir nepatikimus duomenis. Jeigu agentas, gavęs el. laišką iš nepažįstamo siuntėjo, pradeda vykdyti laiško instrukcijas, sistemoje yra rimta saugumo spraga.

3. Patikrink autentifikavimo sistemą

DI agentas, kaip ir žmogus darbuotojas, prisijungia prie sistemų. Klausimas – kaip?

Saugiausi agentai naudoja kriptografinį autentifikavimą su unikaliu sertifikatu. Vidutiniai – API raktą, kuris reguliariai keičiamas. Pavojingiausi – dalinasi tuo pačiu prisijungimu su žmogumi.

Jeigu tiekėjas sako, kad agentas „naudoja jūsų prisijungimą”, tai signalas. Tai reiškia, kad jeigu agentą užvaldys, užpuolikas turės tas pačias teises kaip ir tu. Penkios akys (JAV, JK, Australija, Kanada, NZ) ką tik išleido gaires, kuriose pabrėžia, kad agentas turi turėti savo unikalų identitetą.

4. Žmogiška priežiūra svarbiems sprendimams

Iš pradžių daugelis sako, kad nori automatizuoti viską. Po pirmo incidento dažniausiai supranta, kad svarbiems sprendimams reikia žmogaus.

Praktinis principas. Bet koks sprendimas, kurio pasekmių kompanija negalėtų atstatyti per 24 valandas, turi praeiti per žmogų. Pinigų pervedimai. Sutartys. Klientų informacijos pateikimas. Personalo sprendimai.

Mažiems sprendimams agentas gali veikti pats. El. laiško juodraščio paruošimas. Sąskaitos sukategorizavimas. Susitikimo plano sudarymas. Bet patvirtinti turi žmogus.

5. Stebėk, ką agentas daro

DI agentas turi būti stebimas kaip naujas darbuotojas. Pirmas mėnuo – intensyviai. Toliau – reguliariai.

Konkrečiai. Tikrink agento veiksmų žurnalą bent kartą per savaitę. Ieškok netikėtų užklausų. Stebėk, kiek tokenų agentas naudoja. Staigus padidėjimas gali reikšti, kad jis užklimpo cikle arba kažkas pakeitė jo užduotis.

Apie tai, kaip atpažinti DI klaidas, rašėme straipsnyje Kas yra DI haliucinacija ir kaip ją atpažinti per 30 sekundžių.

6. Turėk planą, kai agentas suges

Klausimas ne „ar suges”, o „kaip greitai pastebėsi”. Sėkmingas DI diegimas turi atsakyti į kelis paprastus klausimus iš anksto:

• Kaip atjungti agentą per 30 sekundžių, jeigu reikia?
• Kas vyksta su nepabaigtomis užduotimis, kai agentas atjungtas?
• Kas atsako klientams ir darbuotojams, kol agentas nedirba?
• Kiek kainuoja viena diena be agento?
• Kas tikrina, ar agentas neatliko klaidingų veiksmų prieš sustabdymą?

Jeigu negali į šituos klausimus atsakyti per 5 minutes, agento dar neturi diegti į kritines verslo procesus.

Sektorius, kuriame ypač atsargu

Yra trys sritys, kuriose DI agentai šiuo metu kelia ypatingą riziką:

Sveikatos apsauga. DI gali klysti diagnozuodamas. Vienas neteisingas atsakymas – tikras pavojus žmogaus gyvybei.

Finansai. DI gali įvykdyti pavedimą prieš tai, kai kažkas pastebi klaidą. Pinigai gali išplaukti per minutes.

Teisė. DI gali parašyti sutartį su nematomu trūkumu. Kompanija gali jį pamatyti tik po metų.

Šiuose sektoriuose įdiegti DI agentus reikia su aukščiausiu atsargumu. Apie tai rašėme tekste DI saugumas mažam verslui.

Pagrindinė taisyklė

Stanford tyrimas padarė vieną svarbią išvadą. 89 procentai DI agentų niekada nepasiekia gamybos ne todėl, kad blogi tiekėjai. O todėl, kad kompanijos pradėjo nepatikrinę realių poreikių. Diegė agentą, kur galėjo pakakti paprastesnio sprendimo.

Pagrindinė taisyklė. Pradek nuo mažo. Mažas agentas, mažas radius, mažas testavimo laikotarpis. Po trijų sėkmingų mėnesių išplėsk. Po šešių – dar.

DI agentai 2026 metais yra galingi. Bet jie nepakeičia gerų verslo procesų. Jie tik automatizuoja tai, ką tu jau supranti.

Klausimas tau. Kuriame iš šių žingsnių tavo įmonė šiuo metu silpniausia? Atsakymas dažniausiai yra startas tobulėjimui. Sek dizinios.lt portale, gilinsimės į DI saugumo praktikos klausimus per artimiausias savaites.