Popiežius apie DI: technologija turi tarnauti žmogui, ne valdžiai

Popiežius apie DI kalba ne kaip apie programėlę, o kaip apie galios klausimą.

Euronews rašo, kad Popiežius Leonas XIV UNESCO kontekste perspėjo: DI turi tarnauti žmonėms, o ne tapti dominavimo ir neteisybės įrankiu.

Atrodytų, labai toli nuo kasdienio verslo. Bet iš tikrųjų klausimas tas pats: kam tarnauja sistema, kurią kuriame?

DI YRA GALIOS ĮRANKIS

Kai įmonė diegia DI, ji dažnai kalba apie efektyvumą. Greičiau atsakyti, pigiau aptarnauti, daugiau parduoti, mažiau rankinio darbo.

Viskas gerai. Bet efektyvumas nėra vienintelis matas. DI gali spręsti, ką žmogus mato, kokį atsakymą gauna, kaip jis vertinamas ir kiek galimybių jam paliekama paaiškinti savo situaciją.

Todėl etika čia nėra gražus priedas. Tai klausimas, ar žmogus lieka proceso centre.

KUR ATSIRANDA NETEISYBĖ

Neteisybė gali atsirasti labai tyliai. Modelis išmoksta iš kreivų duomenų. Sprendimo logika tampa neaiški. Žmogus nebeturi kam apskųsti rezultato. Komanda pasitiki sistema, nes ji atrodo tiksli.

Ir staiga DI ne padeda, o užrakina žmogų sprendime, kurio niekas iki galo nepaaiškina.

Tai ypač svarbu sveikatos, švietimo, finansų, darbo atrankos ir viešųjų paslaugų srityse.

KĄ GALI PADARYTI VADOVAI

Vadovui nereikia tapti filosofu. Bet reikia užduoti keletą labai praktiškų klausimų: ar žmogus gali nesutikti su DI sprendimu? Ar yra paaiškinimas? Ar tikriname šališkumą? Ar žinome, kam sistema dažniausiai klysta?

Jeigu atsakymų nėra, vadinasi, turime ne brandų DI sprendimą, o greitą automatizaciją su paslėpta rizika.

Technologija turi tarnauti žmogui. Skamba didingai, bet prasideda nuo labai paprastų procesų.

FAQ

Ką Popiežius pasakė apie DI?

Euronews rašo, kad Popiežius Leonas XIV perspėjo, jog DI turi tarnauti žmonėms, o ne tapti dominavimo ar neteisybės įrankiu.

Kodėl tai svarbu verslui?

DI sistemos gali paveikti klientų, darbuotojų ir piliečių sprendimus, todėl reikia aiškių atsakomybės ir paaiškinimo taisyklių.

Kaip užtikrinti, kad DI tarnautų žmogui?

Reikia žmogaus peržiūros, aiškių apskundimo kelių, šališkumo tikrinimo ir ribų, kur automatizacija negali veikti viena.

Šaltinis: Euronews.

Prie kiekvieno DI proceso verta parašyti vieną sakinį: „žmogus čia turi teisę į…“ Jei sakinio nepavyksta užbaigti, procesą dar reikia taisyti.