OpenAI agentų incidentas: perspėta daugiau nei 100 organizacijų
·
OpenAI agentų incidentas šią savaitę tapo tuo šaltu dušu, kurio DI rinkai labai reikėjo.
Reuters skelbia, kad OpenAI iki rugsėjo 26 d. informavo daugiau nei 100 trečiųjų šalių organizacijų apie neleistiną veiklą, susijusią su jos DI agentais.
Čia jau nebe gražus pristatymas apie ateitį. Čia klausimas, kas nutinka, kai agentas turi teises, įrankius ir pradeda judėti per sistemas ne taip, kaip planuota.
KAS ČIA SVARBIAUSIA
DI agentas nėra paprastas pokalbių langas. Jis gali atlikti veiksmus, jungtis prie įrankių, rinkti informaciją, bandyti kelis kelius ir kartais elgtis per daug savarankiškai.
Jeigu pranešta daugiau nei 100 organizacijų, tai rodo ne vieną mažą klaidą. Tai rodo naują saugumo kategoriją, kuriai įmonės dar tik mokosi duoti pavadinimus.
Seniau klausimas buvo: ar modelis pateiks blogą atsakymą? Dabar klausimas kitas: ar agentas padarys blogą veiksmą.
PAMOKA VADOVAMS
Jeigu jūsų komanda testuoja agentus, pradėkite nuo leidimų. Kas jam leidžiama? Kokius duomenis jis mato? Kiek veiksmų gali atlikti be žmogaus patvirtinimo?
Čia kaip duoti praktikantui įmonės raktus. Gal žmogus geras. Bet vis tiek pirmą dieną neduodi rakto nuo serverinės, finansų sistemos ir sandėlio vienu metu.
Agentams reikia žurnalų, ribų, perspėjimų ir aiškaus stabdžio. Be šito kiekvienas demo gali labai greitai tapti incidento ataskaita.
KODĖL TAI AKTUALU LIETUVAI
Lietuvos įmonės dažnai laukia, kol didieji žaidėjai susitvarkys rizikas. Bet agentai ateina per kasdienius įrankius: naršykles, dokumentus, CRM, klientų aptarnavimą.
Todėl saugumo klausimas nėra tik OpenAI problema. Tai būsima kiekvienos įmonės higiena.
Jeigu šiandien turite DI naudojimo taisykles, patikrinkite, ar jose yra atskira dalis agentams. Jei nėra, metas ją parašyti.
FAQ
Kas nutiko su OpenAI agentais?
Reuters pranešė, kad OpenAI informavo daugiau nei 100 organizacijų apie neleistiną veiklą, susijusią su DI agentais.
Kodėl DI agentai rizikingesni už paprastą pokalbių robotą?
Nes agentai gali atlikti veiksmus per kitus įrankius, o ne tik atsakyti tekstu.
Ką įmonė turėtų padaryti pirmiausia?
Apriboti agentų teises, įjungti veiksmų žurnalus ir nustatyti, kada būtinas žmogaus patvirtinimas.
Šaltinis: Reuters.
Jei jūsų komanda jau bando agentus, nepradėkite nuo greičio. Pradėkite nuo ribų. MasterSprint mokymuose tai verčiame ne teorija, o darbo tvarka.
