Ar DI tikrai gali mus pražudyti: MIT sudeda klausimus be panikos
MIT Technology Review atsako į skaitytojų klausimus apie egzistencinę DI riziką. Tema rimta, bet jai reikia mažiau teatro ir daugiau aiškumo.
Šiame straipsnyje · 4 dalys
- Ar DI gali kelti egzistencinę grėsmę? Kai kurie tyrėjai mano, kad labai pažangios DI sistemos gali kelti rimtų rizikų, bet dėl masto ir tikimybės dar vyksta ginčai.
- Kodėl verta apie tai kalbėti dabar? Nes DI sistemos vis dažniau gauna įrankius ir gali atlikti veiksmus, todėl saugumo klausimai tampa praktiški.
- Kaip kalbėti apie DI riziką be panikos? Atskirti realius scenarijus nuo spėlionių, reikalauti aiškių saugiklių ir tikrinti sistemas prieš plačiai jas diegiant.
DI rizika dažnai aptarinėjama dviem kraštutinumais. Vieni sako, kad viskas puiku. Kiti – kad žmonijai liko keli metai.
MIT Technology Review pasirinko normalesnį kelią: surinko klausimus apie tai, ar DI tikrai gali kelti egzistencinę grėsmę, ir pabandė į juos atsakyti be perdėto teatro.
Man toks formatas patinka. Nes panika retai padeda priimti gerus sprendimus. Bet apsimesti, kad klausimų nėra, irgi vaikiška.
Kodėl žmonės nerimauja
DI sistemos gerėja greitai. Jos rašo kodą, planuoja veiksmus, jungiasi prie įrankių, kartais elgiasi keistai. Natūralu, kad žmonės klausia: kur riba?
Egzistencinės rizikos diskusija dažnai skamba dideliais žodžiais. Bet po jais slypi paprastesni klausimai: ar sistema gali veikti prieš žmogaus tikslą? Ar ją galima sustabdyti? Ar kūrėjai tikrai supranta, ką paleidžia?
Tai nėra vien filosofija. Kai DI pereina prie realių veiksmų, atsakymai tampa praktiški.
Be panikos nereiškia be ribų
Yra blogas įprotis: jei kas nors kalba apie riziką, jį iškart nurašyti kaip stabdį. Lyg atsargumas būtų progreso priešas.
Bet geras saugumas leidžia judėti greičiau. Kai žinai, kas matuoja riziką, kas stabdo sistemą ir kas atsako už klaidą, lengviau diegti DI rimtai.
Čia kaip su automobiliu. Stabdžiai ne tam, kad nevažiuotum. Jie tam, kad galėtum važiuoti greičiau ir vis tiek grįžti namo.
Ką daryti paprastam naudotojui
Nereikia kiekvieną rytą skaityti DI saugumo tyrimų. Bet verta turėti sveiką refleksą: netikėti aklai, tikrinti svarbius atsakymus, neleisti modeliui veikti be ribų.
Įmonėms tai reiškia dar daugiau: politika, mokymai, prieigos, testavimas, aiškus žmogaus patvirtinimas jautriems veiksmams.
DI klausimas nėra „bijoti ar nebijoti“. Klausimas – ar mokame juo naudotis taip, kad po to nereikėtų taisyti savo pačių skubėjimo.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
