Autonominiai dronai Ukrainoje: JT ragina stabdyti mašinų sprendimą žudyti
15min praneša apie JT žmogaus teisių vadovo susirūpinimą dėl autonominių dronų Ukrainoje. DI kare kelia klausimą, kas priima galutinį sprendimą.
Šiame straipsnyje · 4 dalys
- Kas pranešta apie autonominius dronus Ukrainoje? 15min rašo, kad JT žmogaus teisių vadovas sunerimo dėl pranešimų apie visiškai autonominius dronus, naudojamus Ukrainoje.
- Kodėl autonominiai ginklai kelia riziką? Rizika kyla todėl, kad sistema gali pati identifikuoti taikinį ir veikti be aiškaus žmogaus sprendimo.
- Ką reiškia žmogaus kontrolė? Tai principas, kad galutinis sprendimas dėl gyvybei pavojingo veiksmo turi likti žmogui, o ne algoritmui.
Autonominiai dronai Ukrainoje vėl ištraukė į paviršių klausimą, kurio technologijų pasaulis negali nustumti į šoną: ar mašina gali pati nuspręsti, ką pulti?
15min praneša, kad JT žmogaus teisių vadovas išreiškė susirūpinimą dėl pranešimų apie visiškai autonominius dronus, žudančius žmones Ukrainoje, ir paragino skubiai užtikrinti žmogaus kontrolę.
Čia ne laboratorijos diskusija. Čia karas Europoje.
Kur yra riba
Dronai jau seniai pakeitė karo lauką. Jie pigesni, greitesni, sunkiau pastebimi ir gali veikti ten, kur žmogui per pavojinga.
Bet autonomija pakeičia klausimą. Viena yra, kai žmogus valdo įrenginį. Kita – kai sistema pati atpažįsta taikinį ir priima sprendimą.
Tada klaida nebėra tik techninė. Ji tampa moraline ir teisine.
Di sprendimas nėra neutralus
Modelis gali suklysti dėl vaizdo kokybės, duomenų, aplinkos, maskuotės ar net panašios formos objekto. Kare klaidos kaina yra žmogaus gyvybė.
Todėl kalba apie žmogaus kontrolę nėra lėtas biurokratų refleksas. Tai bandymas palikti atsakomybę ten, kur ji turi būti – pas žmogų.
Mašina gali padėti matyti. Bet ar ji turi teisę nuspręsti?
Pamoka už karo ribų
Versle situacija, aišku, kitokia. Bet principas tas pats: kuo rimtesnis DI sprendimas, tuo aiškesnė turi būti žmogaus peržiūra.
Kreditai, atranka, medicinos rekomendacijos, saugumo įspėjimai – visur reikia žinoti, kada DI tik siūlo, o kada jau daro poveikį žmogui.
Technologija greitėja. Atsakomybė turi suspėti kartu.
Jei įmonėje diegiate DI sprendimų priėmimui, pasiskolinkite vieną principą iš šios diskusijos: žmogaus atsakomybė turi būti aiškiai matoma.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
