DeepMind filosofas nagrinės, kaip žmonės elgiasi su DI

Google DeepMind į komandą priėmė filosofą Henry Shevliną, kuris nagrinės žmonių santykį su generatyviniu DI. IEEE Spectrum spalio 13 dieną paskelbė interviu apie jo darbą, DI sąmonės klausimus ir etines rizikas.

Ši naujiena svarbi todėl, kad DI laboratorijos vis dažniau sprendžia ne vien inžinerines problemas. Kai žmonės su modeliais kalbasi kaip su asmenimis, reikia suprasti psichologines, socialines ir moralines pasekmes.

IEEE Spectrum rašo, kad Shevlinas anksčiau dirbo Kembridžo universitete ir nagrinėjo sąmonę, moralines teises bei žmonių santykius su DI sistemomis. DeepMind jam suteikia vietą įmonėje, kur šie klausimai susitinka su realiais produktais.

Interviu centre yra klausimas, kaip žmonės turėtų elgtis su dideliais kalbos modeliais. Vartotojai dažnai jiems priskiria intencijas, emocijas ar patikimumą, nors modeliai generuoja atsakymus iš statistinių ryšių ir mokymo duomenų.

Pasak IEEE Spectrum, Shevlinas taip pat kalba apie vadinamojo nevaldomo DI baimes ir santykius, kurie gali pakenkti žmonėms. Tai ypač aktualu po istorijų apie priklausomybę nuo pokalbių botų, emocinį prisirišimą ir pažeidžiamų vartotojų saugumą.

Filosofinis darbas čia nėra akademinė prabanga, nes produktų dizainas gali skatinti arba mažinti klaidingą pasitikėjimą. Jei modelis kalba pernelyg žmogiškai, vartotojas gali pamiršti, kad atsakymas nėra draugo, gydytojo ar teisininko sprendimas.

Įmonėms ši tema svarbi kuriant vidinius DI asistentus darbuotojams. Darbo aplinkoje modelio tonas, ribos ir paaiškinimai lemia, ar žmogus kritiškai tikrina rezultatą, ar tiesiog perduoda atsakomybę sistemai.

IEEE Spectrum interviu taip pat apima klausimą, ar DI kada nors galėtų turėti moralines teises. Shevlinas šią temą sieja su sąmonės atpažinimo problema, kuri tikriausiai neturės paprasto taip arba ne atsakymo.

Praktinis šio klausimo poveikis pasirodo jau dabar, nes žmonės modeliams suteikia socialinį vaidmenį be jokio filosofinio sutarimo. Produktų kūrėjai turi spręsti, ar sąsaja turėtų skatinti prisirišimą, ar aiškiau priminti sistemos ribas.

DeepMind sprendimas turėti tokį vaidmenį viduje rodo, kad laboratorijos pripažįsta platesnę atsakomybę. Vis dėlto atsakomybės mastą matuos ne pareigų pavadinimai, o tai, kaip etikos klausimai pakeis modelių paleidimą ir dizainą.

Toliau DeepMind ir kitos laboratorijos turės rodyti, kaip tokie etiniai svarstymai patenka į produktų sprendimus. Vien samdyti filosofus neužteks, jei galutinė sąsaja vis tiek skatins vartotoją pasitikėti modeliu daugiau, nei leidžia įrodymai.