Geoffrey Hinton prabilo JT: DI yra greitas automobilis be vairo ir be stabdžių

Nobelio premijos laureatas stovi ant scenos Ženevoje ir sako vieną sakinį, kuris prikaustė salę: „Jei kada nors važiavai automobiliu be stabdžių nuo kalno, žinai kaip tai jaučiasi. Bet dar blogiau, kai nėra ir vairo.”

Geoffrey Hinton, kurį dažnai vadina dirbtinio intelekto krikštatėviu, praėjusią savaitę kalbėjo Jungtinių Tautų organizuotoje Digital World konferencijoje. Ir jo žinutė buvo tokia paprasta, kad net baisu.

DI yra labai greitas automobilis. Be vairo. Be stabdžių.

Žmogus, kuris sukūrė pagrindus, dabar bijo savo kūrinio

Hinton ne šiaip koks nors komentatorius iš šono. Jis tiesiogine prasme sukūrė neuroninius tinklus, ant kurių stovi visas šiuolaikinis DI. „Deep learning” metodai, dėl kurių ChatGPT gali su tavimi kalbėtis, o vaizdo generatoriai piešti paveikslus, gimė jo laboratorijoje.

2023-aisiais jis paliko Google. Viešai. Garsiai.

Kodėl? Nes norėjo laisvai kalbėti apie grėsmes, kurias mato. Ir nuo to laiko nenutyla. Tik šį kartą jis kalbėjo ne konferencijoje technologų akyse, o pačioje JT.

Ką konkrečiai jis pasakė Ženevoje

Hinton tvirtino, kad dabartinė DI plėtra vyksta per greitai ir be jokios rimtos priežiūros. Jo žodžiais, reguliavimas turi tapti tuo vairu ir tais stabdžiais, kurių šiam automobiliui trūksta.

Jis neslėpė, kad pats nežino tikslaus sprendimo. Bet pabrėžė tris dalykus:

Pirma, DI sistemos jau dabar gali rasti ir išnaudoti programinės įrangos pažeidžiamumus. Ne teoriškai. Praktiškai. Tai parodė neseniai Anthropic su savo Mythos modeliu, kuris sugebėjo surasti dešimtis tūkstančių saugumo spragų.

Antra, DI modeliai tampa vis autonomiškesni. Jie patys priima sprendimus, grandinėmis sujungia veiksmus, ir žmonės ne visada supranta, kodėl modelis padarė būtent tokį pasirinkimą.

Trečia, karinė DI panaudojimo sritis plečiasi greičiau nei bet kas tikėjosi.

Ne pirmas perspėjimas, bet gal svarbiausias

Tiesą sakant, apie DI kontrolės krizę kalbama jau seniai. Net patys kūrėjai pripažįsta, kad situacija darosi sudėtinga. Bet kai Nobelio laureatas, kuris pats padėjo sukurti šią technologiją, stoja prieš JT ir sako „mes turime problemą” – tai jau kitas lygmuo.

Prieš porą mėnesių JT suformavo pirmąją pasaulinę DI mokslinę komisiją, kuriai vadovauja kitas DI pionierius Yoshua Bengio. Tai rodo, kad pasaulinė bendruomenė pradeda rimtai žiūrėti į reguliavimo poreikį.

Bet ar pakanka komisijų?

Kodėl tai svarbu ne tik mokslininkams

Gali pagalvoti – na, gerai, mokslininkai perspėja, bet man tai kaip susiję?

Papasakosiu taip. Šiandien DI rašo teisminius dokumentus. Kartais su išgalvotomis citatomis, už kurias advokatai gauna baudas. DI priima sprendimus dėl paskolų, draudimo, įdarbinimo. Ir visa tai vyksta be aiškių taisyklių, kas atsako, kai DI suklysta.

Hinton sakė: mums reikia ne tik stabdžių, bet ir vairo. Vairas reiškia, kad kažkas turi nuspręsti kryptį. Ne tik sustabdyti, bet ir nukreipti.

Europa su savo DI aktu bando būti ta, kuri paima vairą. JAV vis dar ginčijasi, kas turėtų sėdėti prie vairo. Kinija stato savo automobilį atskirame garaže.

Automobilio metafora ne atsitiktinė

Kai Hinton pasirinko automobilio metaforą, jis turbūt žinojo ką daro. Nes automobilių reguliavimas yra vienas sėkmingiausių technologijų valdymo pavyzdžių istorijoje.

Pirmieji automobiliai neturėjo saugos diržų, oro pagalvių, greičio ribojimų. Žmonės žuvo masiškai. Bet per kelis dešimtmečius atsirado taisyklės, standartai, testavimo procedūros. Automobiliai tapo saugesni ne todėl, kad gamintojai to norėjo, o todėl, kad buvo priversti.

Hinton siūlo tą patį DI: ne sustabdyti technologiją, o duoti jai rėmus.

Klausimas tik ar rėmai bus pastatyti laiku. Nes šitas automobilis jau lekia.

Kur link visa tai eina

Po Hintono kalbos JT nepadarė jokių konkrečių sprendimų. Kaip dažnai būna su JT. Bet signalas yra aiškus: net DI kūrėjai sako, kad jiems reikia suvaržymų.

Ir čia yra paradoksas. Kompanijos, kurios kuria DI, investuoja milijardus, kad jų modeliai būtų vis galingesni. Tuo pačiu metu jų patys kuriantys mokslininkai eina į JT ir sako: prašau, mus sutramdykite.

Tai kaip vairuotojas, kuris spaudžia akseleratorių ir tuo pačiu šaukia, kad kažkas pristatytų stabdžius.

O tu? Ar jauti, kad DI jau keičia tavo kasdienybę, bet niekas nepaaiškino taisyklių? Parašyk komentaruose, kas tave labiausiai neramina dėl DI ateities.