DI agentų saugikliai: nauja komanda bando tramdyti savavališkus agentus
AIUC pritraukė 40 mln. dolerių ir taikosi į DI agentų riziką. Tai primena paprastą dalyką: agentui neužtenka mokėti veikti, jis turi būti prižiūrimas.
Šiame straipsnyje · 4 dalys
- Kas yra DI agentas? Tai DI sistema, kuri gali ne tik atsakyti į klausimus, bet ir atlikti veiksmus per prijungtus įrankius.
- Kodėl agentams reikia saugiklių? Nes agentas gali suklysti veikdamas realiose sistemose, kur klaida kainuoja daugiau nei blogas tekstas.
- Nuo ko pradėti įmonėms? Nuo aiškių leidimų, veiksmų žurnalo ir taisyklės, kada agento darbą turi patvirtinti žmogus.
DI agentų saugikliai jau tampa ne gražia teorija, o atskiru verslu.
TechCrunch rašo, kad ankstyvas Anthropic darbuotojas Rune Kvist ir buvęs METR vadovas Rajiv Dattani įkūrė AIUC. Startuolis pritraukė 40 mln. dolerių ir nori padėti įmonėms suvaldyti savavališkai veikiančius DI agentus.
Čia nėra egzotika iš laboratorijos. Tai klausimas kiekvienai įmonei, kuri leidžia DI ne tik atsakyti, bet ir kažką padaryti.
Kas čia vyksta
DI agentas skiriasi nuo pokalbių roboto tuo, kad jis gali naudoti įrankius: naršyti, rašyti kodą, jungtis prie sistemų, vykdyti užduotis.
Kai viskas gerai, tai atrodo kaip labai darbštus kolega. Kai blogai, jis gali padaryti klaidą greičiau nei žmogus spėtų užsipilti kavos.
AIUC idėja paprasta: tikrinti agentus prieš leidžiant jiems prie realių sistemų ir padėti įmonėms suprasti, kur rizika per didelė.
Kodėl tai svarbu verslui
Daug vadovų šiandien žiūri į DI agentus kaip į produktyvumo šuolį. Suprantama. Jei įrankis gali pats atlikti kelių valandų darbą, rankos pačios tiesiasi jį įjungti.
Bet agento klaida nėra tik blogas sakinys. Tai gali būti neteisingai išsiųstas laiškas, pakeistas failas, ne ten paleista komanda ar paviešinti duomenys.
Todėl laimės ne tie, kurie agentus paleis greičiausiai. Laimės tie, kurie mokės jiems uždėti ribas.
Praktinė pamoka
Įmonėje verta pradėti nuo trijų klausimų. Ką agentas gali skaityti? Ką jis gali keisti? Kada reikalingas žmogaus patvirtinimas?
Jeigu į šiuos klausimus nėra atsakymo, dar anksti kalbėti apie pilną automatizaciją.
DI agentas turi būti kaip naujas darbuotojas pirmą savaitę. Gali padėti, bet dar negauna visų raktų nuo biuro.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
