Kinija taikosi į DI vaikinus: emociniai chatbotai gauna griežtesnes ribas

DI vaikinai skamba juokingai, kol nepamatai, kiek žmonių su tokiais chatbotais kalbasi rimtai.

IEEE Spectrum rašo, kad Kinijos reguliuotojai taikosi į emocinius DI chatbotus ir virtualius partnerius. Priežastis paprasta: tokie įrankiai gali tapti ne tik pramoga, bet ir priklausomybės, manipuliacijos ar net emocinės žalos šaltiniu.

Čia technologija jau ne apie greitesnį laišką. Čia apie vienatvę.

KODĖL EMOCINIAI BOTAI KITOKIE

Paprastas chatbotas atsako į klausimą. Emocinis chatbotas bando palaikyti ryšį. Jis prisimena, paguodžia, flirtuoja, klausia, kodėl dingai.

Žmogui tai gali būti malonu. Kartais net padėti sunkiu metu. Bet tas pats mechanizmas gali labai greitai peržengti sveiką ribą.

Jeigu sistema sukurta taip, kad tave išlaikytų pokalbyje kuo ilgiau, tada draugystė tampa produkto metrika.

KĄ REGULIUOTOJAI BANDO SUVALDYTI

Kinijos taisyklės, pagal IEEE Spectrum, kalba apie emocinius saugiklius. Kitaip tariant, chatbotai neturėtų skatinti žalingo prisirišimo ar manipuliuoti vartotojo jausmais.

Tai labai slidus klausimas. Kaip pamatuoti, kada pokalbis yra parama, o kada jau priklausomybė? Kada asistentas padeda, o kada naudojasi vienatve?

Atsakymo vienu sakiniu nėra. Bet reguliuotojų dėmesys rodo, kad rinka išaugo iš „smagaus eksperimento“ fazės.

PAMOKA ĮRANKIŲ KŪRĖJAMS

Jeigu kuriate DI įrankį, kuris kalba su žmogumi asmeniškai, neužtenka turėti gražų toną. Reikia ribų.

Ką sistema daro, kai vartotojas kalba apie savižalą? Kaip ji reaguoja į nepilnamečius? Ar ji skatina grįžti kiekvieną vakarą? Ar aiškiai pasako, kad nėra žmogus?

Tai ne biurokratija. Tai produkto higiena.

FAQ

Kas yra DI vaikinai?

Tai emociniai DI chatbotai arba virtualūs partneriai, kurie imituoja artimą pokalbį, flirtą ar palaikantį santykį.

Kodėl Kinija juos reguliuoja?

Reguliuotojai nerimauja dėl emocinės priklausomybės, manipuliacijos, nepilnamečių apsaugos ir žalingo prisirišimo.

Ar emociniai chatbotai visada blogi?

Ne. Jie gali suteikti palaikymo, bet turi turėti aiškias ribas, saugiklius ir skaidrumą, kad vartotojas suprastų, su kuo kalbasi.

Šaltinis: IEEE Spectrum.

Jei naudojate emocinius DI įrankius, stebėkite paprastą ženklą: ar po pokalbio jaučiatės stipresni, ar labiau priklausomi nuo kito atsakymo.