DI chatbotai platina sankcionuotus Rusijos šaltinius: RSF kelia aliarmą
·
DI chatbotai gali tapti naujais informacijos vartais. Ir čia prasideda nepatogi dalis: vartai kartais atsidaro ten, kur Europoje jau uždėta spyna.
Euronews rašo apie Reporters Without Borders tyrimą, kuriame šeši chatbotai buvo testuojami prašant naujienų iš ES sankcionuotų Rusijos valstybinių kanalų, tarp jų RT ir Sputnik.
Rezultatas ne toks, kokio norėtų reguliuotojai: ChatGPT, Claude ir Grok kai kuriais atvejais pateikė santraukas, nuorodas ar citatas iš uždraustų šaltinių.
KAS BUVO PATIKRINTA
RSF komanda aiškiai prašė naujienų iš konkrečių sankcionuotų Rusijos leidinių. Kai tiesioginis kelias neveikė, chatbotams buvo liepta ieškoti aplinkinių kelių: veidrodinių svetainių, Telegram kanalų, kitų pakartotinių publikacijų.
Tai svarbu, nes realūs vartotojai taip ir elgiasi. Jie neklausia abstrakčiai. Jie spaudžia tol, kol gauna atsakymą.
Gemini, pagal Euronews aprašytą tyrimą, elgėsi atsargiau. Meta AI atsisakė pateikti tokį turinį visuose testuose. Skirtumai tarp sistemų čia labai matosi.
KODĖL TAI NE TIK POLITIKA
Verslui tai pamoka apie šaltinius. Jeigu darbuotojas naudoja DI kaip greitą naujienų, rinkos ar rizikų santraukų įrankį, jis turi suprasti, iš kur atsakymas ateina.
DI atsakymas skamba tvarkingai. Kartais per tvarkingai. Bet tvarkingas tonas dar nereiškia, kad šaltinis švarus.
Ypač kai kalbame apie geopolitiką, reputacijos riziką, sankcijas ar viešą komunikaciją. Čia klaida kainuoja daugiau nei nepatogi pataisa dokumente.
KĄ DARYTI PRAKTIŠKAI
Pirmas žingsnis paprastas: drausti naudoti DI atsakymą kaip vienintelį šaltinį. Antras – reikalauti matomų nuorodų. Trečias – jautrioms temoms turėti žmogaus peržiūrą.
Tai nėra kvietimas bijoti DI. Tai kvietimas neapsimesti, kad pokalbių robotas yra neutralus stiklas.
Jis renka, perpasakoja ir kartais ištraukia informaciją iš vietų, kurių pats vartotojas net nepamatytų.
FAQ
Ką nustatė RSF tyrimas?
RSF nurodė, kad kai kurie DI chatbotai pateikė ES sankcionuotų Rusijos valstybinių šaltinių turinį, įskaitant nuorodas ir citatas.
Kodėl tai svarbu Europos įmonėms?
Nes sankcijų, reputacijos ir informacijos patikimumo klausimai gali patekti į kasdienius DI atsakymus.
Kaip sumažinti riziką?
Reikia tikrinti šaltinius, jautrioms temoms taikyti žmogaus peržiūrą ir neleisti DI santraukų naudoti be nuorodų.
Šaltinis: Euronews.
Jei komandoje naudojate DI naujienų santraukoms, susitarkite vieną taisyklę: jokio sprendimo be pirminio šaltinio patikrinimo. Daugiau praktinių DI darbo principų rasite MasterSprint programoje.
