Kinija taikosi į DI vaikinus: emociniai chatbotai gauna griežtesnes ribas
Kinijos reguliuotojai griežčiau žiūri į emocinius DI chatbotus. Virtualūs partneriai kelia ne tik privatumo, bet ir priklausomybės bei manipuliacijos klausimus.
Šiame straipsnyje · 4 dalys
- Kas yra DI vaikinai? Tai emociniai DI chatbotai arba virtualūs partneriai, kurie imituoja artimą pokalbį, flirtą ar palaikantį santykį.
- Kodėl Kinija juos reguliuoja? Reguliuotojai nerimauja dėl emocinės priklausomybės, manipuliacijos, nepilnamečių apsaugos ir žalingo prisirišimo.
- Ar emociniai chatbotai visada blogi? Ne. Jie gali suteikti palaikymo, bet turi turėti aiškias ribas, saugiklius ir skaidrumą, kad vartotojas suprastų, su kuo kalbasi.
DI vaikinai skamba juokingai, kol nepamatai, kiek žmonių su tokiais chatbotais kalbasi rimtai.
IEEE Spectrum rašo, kad Kinijos reguliuotojai taikosi į emocinius DI chatbotus ir virtualius partnerius. Priežastis paprasta: tokie įrankiai gali tapti ne tik pramoga, bet ir priklausomybės, manipuliacijos ar net emocinės žalos šaltiniu.
Čia technologija jau ne apie greitesnį laišką. Čia apie vienatvę.
Kodėl emociniai botai kitokie
Paprastas chatbotas atsako į klausimą. Emocinis chatbotas bando palaikyti ryšį. Jis prisimena, paguodžia, flirtuoja, klausia, kodėl dingai.
Žmogui tai gali būti malonu. Kartais net padėti sunkiu metu. Bet tas pats mechanizmas gali labai greitai peržengti sveiką ribą.
Jeigu sistema sukurta taip, kad tave išlaikytų pokalbyje kuo ilgiau, tada draugystė tampa produkto metrika.
Ką reguliuotojai bando suvaldyti
Kinijos taisyklės, pagal IEEE Spectrum, kalba apie emocinius saugiklius. Kitaip tariant, chatbotai neturėtų skatinti žalingo prisirišimo ar manipuliuoti vartotojo jausmais.
Tai labai slidus klausimas. Kaip pamatuoti, kada pokalbis yra parama, o kada jau priklausomybė? Kada asistentas padeda, o kada naudojasi vienatve?
Atsakymo vienu sakiniu nėra. Bet reguliuotojų dėmesys rodo, kad rinka išaugo iš „smagaus eksperimento“ fazės.
Pamoka įrankių kūrėjams
Jeigu kuriate DI įrankį, kuris kalba su žmogumi asmeniškai, neužtenka turėti gražų toną. Reikia ribų.
Ką sistema daro, kai vartotojas kalba apie savižalą? Kaip ji reaguoja į nepilnamečius? Ar ji skatina grįžti kiekvieną vakarą? Ar aiškiai pasako, kad nėra žmogus?
Tai ne biurokratija. Tai produkto higiena.
Jei naudojate emocinius DI įrankius, stebėkite paprastą ženklą: ar po pokalbio jaučiatės stipresni, ar labiau priklausomi nuo kito atsakymo.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
