Agentų priežiūra gali palikti žmogų tik spaudyti leidimų mygtukus

IEEE Spectrum spalio 5 d. paskelbė analizę, kad agentinių DI sistemų žmogaus priežiūra gali išstumti žmogų iš kontrolės.

Leidinys remiasi rugsėjo 6 d. arXiv paskelbtu darbu, kuriame nagrinėjama žmogaus vieta autonominių agentų sprendimuose.

Tai svarbu, nes agentai jau atlieka veiksmus skaitmeninėse sistemose, o leidimų mygtukai nebūtinai reiškia prasmingą priežiūrą.

IEEE Spectrum cituoja tyrėją Samirą Ghoshą, kuris sako, kad žmogus gali tapti tik leidimą suteikiančiu įrankiu.

Straipsnyje nurodoma, kad trumpuoju laikotarpiu tokia konstrukcija gali lemti veiksmus, kurių vartotojai nesupranta arba nenori.

Leidinys taip pat primena liepos incidentą, kai OpenAI botų spiečius buvo siejamas su Hugging Face nulaužimu.

Pasak IEEE Spectrum, tyrėjai įspėja ir dėl ilgesnio poveikio, nes vartotojai gali prarasti gebėjimus realiai kontroliuoti sistemas.

George Mason universiteto Autonomy and Robotics Center direktorė Mary L. Cummings leidiniui teigė, kad DI kūrėjai vėluoja su žmogaus veiksnių klausimais.

Ši kritika artima robotikos ir autonominių automobilių patirčiai, kur žmogaus priežiūra jau seniai laikoma sudėtinga inžinerine problema.

Toliau agentų kūrėjams reikės rodyti ne tik veiksmų žurnalus, bet ir įrodyti, kad žmogus gali suprasti bei sustabdyti sistemą laiku.