Ar DI tikrai gali mus pražudyti: MIT sudeda klausimus be panikos

DI rizika dažnai aptarinėjama dviem kraštutinumais. Vieni sako, kad viskas puiku. Kiti – kad žmonijai liko keli metai.

MIT Technology Review pasirinko normalesnį kelią: surinko klausimus apie tai, ar DI tikrai gali kelti egzistencinę grėsmę, ir pabandė į juos atsakyti be perdėto teatro.

Man toks formatas patinka. Nes panika retai padeda priimti gerus sprendimus. Bet apsimesti, kad klausimų nėra, irgi vaikiška.

KODĖL ŽMONĖS NERIMAUJA

DI sistemos gerėja greitai. Jos rašo kodą, planuoja veiksmus, jungiasi prie įrankių, kartais elgiasi keistai. Natūralu, kad žmonės klausia: kur riba?

Egzistencinės rizikos diskusija dažnai skamba dideliais žodžiais. Bet po jais slypi paprastesni klausimai: ar sistema gali veikti prieš žmogaus tikslą? Ar ją galima sustabdyti? Ar kūrėjai tikrai supranta, ką paleidžia?

Tai nėra vien filosofija. Kai DI pereina prie realių veiksmų, atsakymai tampa praktiški.

BE PANIKOS NEREIŠKIA BE RIBŲ

Yra blogas įprotis: jei kas nors kalba apie riziką, jį iškart nurašyti kaip stabdį. Lyg atsargumas būtų progreso priešas.

Bet geras saugumas leidžia judėti greičiau. Kai žinai, kas matuoja riziką, kas stabdo sistemą ir kas atsako už klaidą, lengviau diegti DI rimtai.

Čia kaip su automobiliu. Stabdžiai ne tam, kad nevažiuotum. Jie tam, kad galėtum važiuoti greičiau ir vis tiek grįžti namo.

KĄ DARYTI PAPRASTAM NAUDOTOJUI

Nereikia kiekvieną rytą skaityti DI saugumo tyrimų. Bet verta turėti sveiką refleksą: netikėti aklai, tikrinti svarbius atsakymus, neleisti modeliui veikti be ribų.

Įmonėms tai reiškia dar daugiau: politika, mokymai, prieigos, testavimas, aiškus žmogaus patvirtinimas jautriems veiksmams.

DI klausimas nėra „bijoti ar nebijoti“. Klausimas – ar mokame juo naudotis taip, kad po to nereikėtų taisyti savo pačių skubėjimo.

FAQ

Ar DI gali kelti egzistencinę grėsmę?

Kai kurie tyrėjai mano, kad labai pažangios DI sistemos gali kelti rimtų rizikų, bet dėl masto ir tikimybės dar vyksta ginčai.

Kodėl verta apie tai kalbėti dabar?

Nes DI sistemos vis dažniau gauna įrankius ir gali atlikti veiksmus, todėl saugumo klausimai tampa praktiški.

Kaip kalbėti apie DI riziką be panikos?

Atskirti realius scenarijus nuo spėlionių, reikalauti aiškių saugiklių ir tikrinti sistemas prieš plačiai jas diegiant.

Šaltinis: MIT Technology Review.

Jei norite ne bijoti DI, o suprasti, kur jis naudingas ir kur reikia saugiklių, pradėkite nuo praktikos. MasterSprint tam ir sukurtas.