DI transplantacijose: kai algoritmai nesutaria dėl žmogaus eilės
·
DI transplantacijose yra tema, kur gražūs pažadai labai greitai atsiremia į žmogaus gyvenimą.
Euronews rašo apie tyrimą, kuriame DI chatbotai turėjo vertinti, kam skirti gyvybiškai svarbią inksto transplantaciją. Jie sprendė greičiau ir užtikrinčiau, bet ne taip pat kaip gydytojai.
Čia nėra patogi tema. Nes vienoje pusėje norisi greičio ir efektyvumo. Kitoje pusėje stovi žmogus, kuris laukia organo.
KĄ PARODĖ TYRIMAS
Pasak Euronews, DI sistemos galėjo pateikti sprendimus greičiau nei žmonės, bet jų vertinimai skyrėsi nuo gydytojų sprendimų.
Tai nereiškia, kad DI yra blogas medicinoje. Tai reiškia, kad jautriose srityse greitis nėra vienintelis kriterijus.
Gydytojas vertina ne tik duomenų eilutes. Jis mato kontekstą, riziką, paciento būklę, etinius niuansus ir kartais labai sunkiai užrašomus dalykus.
KUR DI GALI PADĖTI
DI gali būti labai geras pagalbininkas rūšiuojant informaciją, primenant kriterijus, tikrinant dokumentus ir mažinant administracinį krūvį.
Bet sprendimas, kam suteikti gyvybę gelbstinčią galimybę, negali virsti automatiniu mygtuku. Bent jau ne taip, kaip šiandien suprantame atsakomybę.
Geriausias modelis čia atrodo ne „DI vietoj gydytojo“, o „DI šalia gydytojo“, su aiškia riba, kur baigiasi pasiūlymas ir prasideda žmogaus sprendimas.
EUROPOS PAMOKA
Europoje tokios temos ypač jautrios, nes sveikata, duomenys ir diskriminacijos rizika yra griežtai prižiūrimos sritys.
Jeigu ligoninė nori naudoti DI sprendimų palaikymui, jai reikės ne tik gero modelio. Reikės dokumentacijos, patikros, paaiškinamumo ir atsakomybės grandinės.
Trumpai: medicinoje DI negali būti juoda dėžė, kuri sako „šitas žmogus pirmas“. Tokiam atsakymui reikia daugiau nei pasitikėjimo.
FAQ
Ar DI gali spręsti dėl transplantacijų?
Šiandien DI labiau tinka kaip sprendimų palaikymo įrankis, o ne galutinis teisėjas dėl paciento eilės.
Kodėl gydytojų ir DI atsakymai skiriasi?
DI remiasi pateiktais duomenimis ir mokymo pavyzdžiais, o gydytojai vertina platesnį medicininį ir etinį kontekstą.
Kokia didžiausia rizika?
Per didelis pasitikėjimas automatiniu sprendimu, kai žmogaus gyvybei reikia paaiškinamos ir atsakingos patikros.
Šaltinis: Euronews.
Medicinoje DI verta pradėti nuo ten, kur jis mažina popierizmą ir padeda gydytojui matyti duomenis. Sprendimo teisę reikia perduoti labai atsargiai.
