JAV bankų priežiūra klausia apie agentinį DI ir kiniškus modelius
Reuters per Techmeme pranešė, kad JAV bankų reguliuotojai klausia bankų apie agentinį DI, kiniškus modelius ir autonominių sistemų saugiklius.
JAV bankų reguliuotojai klausinėja bankų apie agentinio DI diegimą, kiniškų modelių naudojimą ir autonominių sistemų saugiklius. Reuters spalio 13 dieną per Techmeme nurodė, kad klausimai jau pasiekė finansų įstaigas.
Tai svarbu, nes bankai DI vis dažniau naudoja ne tik analizei, bet ir procesams, kurie gali turėti finansinių pasekmių. Agentinis DI gali savarankiškai atlikti kelis veiksmus, todėl klaida gali judėti greičiau nei įprastame įrankyje.
Pasak Reuters, priežiūros institucijos domisi, kaip bankai valdo autonominių sistemų riziką ir kokius modelius leidžia naudoti savo infrastruktūroje. Atskirai minimi Kinijoje sukurti modeliai rodo, kad technologinis saugumas tampa ir geopolitiniu klausimu.
Bankams agentinis DI žada mažiau rankinio darbo, greitesnį dokumentų tikrinimą ir paprastesnį klientų aptarnavimą. Tačiau finansų sektoriuje vien patogumo neužtenka, nes kiekvienas veiksmas turi būti atsekamas, paaiškinamas ir sustabdomas.
Reuters aprašyta priežiūra primena, kad agentai skiriasi nuo įprastų pokalbių robotų. Pokalbių robotas gali pateikti klaidingą atsakymą, o agentas gali atlikti veiksmą sistemose, kuriose juda pinigai, klientų duomenys ar vidaus sprendimai.
Reguliuotojams svarbūs ne tik modelio testai, bet ir praktinis valdymas. Reikalingi leidimai, veiksmų žurnalai, ribos, žmogaus patvirtinimai ir procedūros, kurios leidžia stabdyti procesą, jei sistema pradeda elgtis netikėtai.
Lietuvos finansų įstaigoms ši naujiena aktuali todėl, kad tarptautinė bankų priežiūra dažnai virsta sektoriaus standartu. Jei JAV institucijos griežtina klausimus, panašūs reikalavimai gali greičiau ateiti ir į Europos rizikos vertinimus.
Reuters minima kiniškų modelių tema taip pat rodo, kad bankai turės vertinti ne vien techninę kokybę. Modelio kilmė, duomenų srautai, tiekėjo jurisdikcija ir atnaujinimų kontrolė tampa dalimi tos pačios rizikos bylos.
Agentinio DI atveju priežiūrai nepakanka įprastos programinės įrangos patikros, nes modelis gali keisti kelią pagal kontekstą. Bankas turi žinoti, kokias sistemas agentas pasiekia, kokius veiksmus gali atlikti ir kada privalomas žmogaus patvirtinimas.
Tokie klausimai gali paveikti ir tiekėjus, parduodančius DI sprendimus finansų sektoriui. Jei bankai turės atsakyti reguliuotojams, jie reikalaus daugiau dokumentacijos, testų rezultatų ir aiškesnių saugos ribų iš kiekvieno produkto.
Toliau bus matyti, ar reguliuotojų klausimai virs oficialiomis gairėmis bankams. Svarbiausias klausimas lieka, ar agentinis DI finansuose bus diegiamas kaip kontroliuojamas įrankis, o ne kaip nematomas automatizavimo sluoksnis.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
