Autonominiai dronai Ukrainoje: JT ragina stabdyti mašinų sprendimą žudyti
·
Autonominiai dronai Ukrainoje vėl ištraukė į paviršių klausimą, kurio technologijų pasaulis negali nustumti į šoną: ar mašina gali pati nuspręsti, ką pulti?
15min praneša, kad JT žmogaus teisių vadovas išreiškė susirūpinimą dėl pranešimų apie visiškai autonominius dronus, žudančius žmones Ukrainoje, ir paragino skubiai užtikrinti žmogaus kontrolę.
Čia ne laboratorijos diskusija. Čia karas Europoje.
KUR YRA RIBA
Dronai jau seniai pakeitė karo lauką. Jie pigesni, greitesni, sunkiau pastebimi ir gali veikti ten, kur žmogui per pavojinga.
Bet autonomija pakeičia klausimą. Viena yra, kai žmogus valdo įrenginį. Kita – kai sistema pati atpažįsta taikinį ir priima sprendimą.
Tada klaida nebėra tik techninė. Ji tampa moraline ir teisine.
DI SPRENDIMAS NĖRA NEUTRALUS
Modelis gali suklysti dėl vaizdo kokybės, duomenų, aplinkos, maskuotės ar net panašios formos objekto. Kare klaidos kaina yra žmogaus gyvybė.
Todėl kalba apie žmogaus kontrolę nėra lėtas biurokratų refleksas. Tai bandymas palikti atsakomybę ten, kur ji turi būti – pas žmogų.
Mašina gali padėti matyti. Bet ar ji turi teisę nuspręsti?
PAMOKA UŽ KARO RIBŲ
Versle situacija, aišku, kitokia. Bet principas tas pats: kuo rimtesnis DI sprendimas, tuo aiškesnė turi būti žmogaus peržiūra.
Kreditai, atranka, medicinos rekomendacijos, saugumo įspėjimai – visur reikia žinoti, kada DI tik siūlo, o kada jau daro poveikį žmogui.
Technologija greitėja. Atsakomybė turi suspėti kartu.
FAQ
Kas pranešta apie autonominius dronus Ukrainoje?
15min rašo, kad JT žmogaus teisių vadovas sunerimo dėl pranešimų apie visiškai autonominius dronus, naudojamus Ukrainoje.
Kodėl autonominiai ginklai kelia riziką?
Rizika kyla todėl, kad sistema gali pati identifikuoti taikinį ir veikti be aiškaus žmogaus sprendimo.
Ką reiškia žmogaus kontrolė?
Tai principas, kad galutinis sprendimas dėl gyvybei pavojingo veiksmo turi likti žmogui, o ne algoritmui.
Šaltinis: 15min.
Jei įmonėje diegiate DI sprendimų priėmimui, pasiskolinkite vieną principą iš šios diskusijos: žmogaus atsakomybė turi būti aiškiai matoma.
