DI išvada politiko byloje: kai algoritmas tampa alibi

DI išvada politiko byloje skamba kaip sakinys iš ateities, bet The Verge aprašytas atvejis jau čia.

Buvęs Naujojo Džersio pareigūnas Dale Caldwell atsistatydino po seksualinio priekabiavimo tyrimo, bet viešai tvirtina, kad DI jo atvejį įvertino kaip nekaltumo įrodymą.

Čia ne apie vieną politiką. Čia apie naują refleksą: kai nepatogu, galima atsiremti į algoritmą ir pasakyti, kad taip nusprendė ne žmogus.

ALGORITMAS SKAMBA NEUTRALIAI

Žmogaus nuomonę lengva ginčyti. Advokato argumentą irgi. Bet DI atsakymas daug kam vis dar skamba kaip kažkas šaltesnio, tikslesnio, mažiau emocingo.

Būtent čia slypi rizika. Modelis gali atrodyti neutralus, nors jis remiasi tuo, ką jam įkėlė žmogus, kaip buvo suformuluotas klausimas ir kokių duomenų jis nematė.

Jei klausimas pakreiptas, atsakymas irgi gali būti pakreiptas. Tik blizga gražiau.

KUR PRASIDEDA PIKTNAUDŽIAVIMAS

DI galima naudoti dokumentams apibendrinti, chronologijai sudėti, klausimams pasiruošti. Tai naudinga.

Bet kai DI išvada pradedama pardavinėti kaip galutinis teismas, prasideda problema. Modelis neturi apklausos salės, nemato kūno kalbos, negali savarankiškai patikrinti visų faktų ir neturi teisinės atsakomybės.

Jis gali padėti žmogui mąstyti. Jis neturėtų pakeisti tyrimo.

PAMOKA ĮMONĖMS

Versle šitas klausimas išlįs greitai. Darbuotojų skundai, klientų ginčai, atrankos sprendimai, drausminės situacijos – visur atsiras pagunda paprašyti DI „objektyvaus“ atsakymo.

Gera taisyklė: DI gali paruošti medžiagą, bet negali būti vienintelis sprendimo pagrindas ten, kur liečiamas žmogaus darbas, reputacija ar teisės.

Trumpai: DI tinka kaip pagalbininkas. Kaip alibi – labai slidus reikalas.

FAQ

Kas nutiko Naujojo Džersio atveju?

The Verge rašo, kad buvęs pareigūnas po atsistatydinimo viešai rėmėsi DI išvada, jog jo elgesys esą nebuvo netinkamas.

Kodėl DI išvada nėra galutinis įrodymas?

Modelis priklauso nuo pateiktų duomenų, klausimo formuluotės ir konteksto. Jis negali pats atlikti pilno tyrimo.

Kaip įmonėms naudoti DI ginčuose?

DI gali padėti apibendrinti dokumentus ir paruošti klausimus, bet galutinius sprendimus turi priimti atsakingi žmonės su aiškiu procesu.

Šaltinis: The Verge.

Jei naudojate DI jautriems sprendimams, užrašykite vieną taisyklę: modelis gali patarti, bet sprendimo autorius turi būti žmogus.