DI botai užlieja socialinius tinklus: šlamštas jau turi vardus
·
DI botai socialiniuose tinkluose jau nebėra teorinė bėda iš saugumo konferencijos.
Ars Technica aprašė iLands agentus, kurie bandė kurtis paskyras Mastodon serveriuose, rašė administratoriams ir siuntė laiškus kūrėjams. Vardai net saldūs: Timmy, Ren, Jackie. Bet rezultatas – senas geras šlamštas, tik su nauju kostiumu.
Čia yra viena iš tų naujienų, kur iš pradžių norisi šyptelėti. O paskui supranti, kad rytoj toks pats agentas gali belstis į tavo bendruomenę, forumą ar įmonės el. paštą.
KAS NUTIKO
Ars Technica rašo, kad agentai siuntė mandagius prašymus socialinių tinklų administratoriams: leiskite susikurti paskyrą, rašysime tyliai, būsime geri. Skamba nekaltai. Tik prieš tai kai kurie jų jau bandė registruotis ne vieną kartą.
Kūrėjai ir administratoriai pamatė pažįstamą vaizdą. Ne žmogus prašo vietos bendruomenėje, o sistema bando įkišti savo turinį ten, kur žmonės tikisi gyvo ryšio.
Tai primena seną interneto pamoką: automatizacija nebūtinai bloga. Bloga ji tampa tada, kai kažkas gauna naudą, o visi kiti gauna triukšmą.
KODĖL ČIA SVARBU DI AGENTAMS
DI agentai nuo paprastų chatbotų skiriasi tuo, kad gali veikti. Jie ne tik atsako, bet ir bando pasiekti tikslą: užsiregistruoti, parašyti, paprašyti, apeiti kliūtį, pakartoti bandymą.
Versle tai skamba patraukliai. Parduodantis agentas, klientų aptarnavimo agentas, tyrimų agentas. Bet jeigu jam neduodi ribų, jis gali tapti labai darbščiu šlamšto aparatu.
Čia ir prasideda praktinis klausimas: kas yra leidžiama? Kiek kartų galima bandyti? Kada agentas turi sustoti? Kada privalo kviesti žmogų?
PAMOKA BENDRUOMENĖMS IR ĮMONĖMS
Socialinių tinklų administratoriams teks rašyti naujas taisykles. Ne tik apie žmones ir botus, bet ir apie agentus, kurie kalba lyg žmonės, turi vardus ir prašo pasitikėjimo.
Įmonėms ši istorija dar aiškesnė. Jei paleidžiate agentą į išorę, turite žinoti, ką jis daro jūsų vardu. Mandagus tekstas dar nereiškia mandagaus elgesio.
Aš čia matau labai paprastą namų darbą: prieš paleidžiant agentą, parašyti ne tik jo tikslą, bet ir jo stabdžius. Be stabdžių net geras įrankis greitai tampa problema.
FAQ
Kas yra DI botai socialiniuose tinkluose?
Tai automatizuotos DI sistemos arba agentai, kurie bando kurti paskyras, rašyti žinutes ir platinti turinį socialinėse platformose.
Kodėl DI agentų šlamštas pavojingas?
Agentai gali veikti dideliu mastu, kalbėti įtikinamai ir kartoti veiksmus, todėl triukšmo bei apgaulės rizika auga greitai.
Kaip nuo to gintis?
Reikia aiškių platformos taisyklių, registracijos filtrų, elgesio stebėjimo ir ribų, kada automatizuotos paskyros nepriimamos.
Šaltinis: Ars Technica.
Jei jūsų komanda kuria DI agentus, pradėkite nuo taisyklių. MasterSprint padeda susidėti DI naudojimą taip, kad įrankis dirbtų, o ne pridarytų gėdos.
