Kas yra superintelligence ir ar tikrai jos verta bijoti

Šiandien Silicio slėnio investuotojai su milijardais lekia paskui vieną žodį. Superintelligence. Superlearner. ASI. Skirtingi vardai, viena idėja: DI, kuris aplenks žmogų visose intelektualinėse užduotyse.

SKIRTUMAS, KURIO DAUG KAS NEŽINO

Pradėkime nuo terminologijos, kuri painioja net technikos žmones. Yra trys lygiai.

Narrow AI (siaurasis DI). Tai viskas, ką dabar turime. ChatGPT, Claude, Gemini. Visi jie geriau už žmogų atlieka konkrečias užduotis (rašymą, vertimą, kodavimą), bet negali užsisiūti marškinių ar suprasti, kodėl tu šiandien liūdnas.

AGI (artificial general intelligence). Lygus žmogui visose srityse. Jeigu taves prašytų išspręsti matematinę problemą, tu galėtum. Jeigu prašytų pakeisti vystyklus kūdikiui, irgi galėtum. AGI gebėtų ir vieną, ir kitą.

Superintelligence. Aplenkia žmogų visose srityse. Ne tik šachmatuose ar Go (kur jau aplenkia), bet ir filosofijoje, kūryboje, emocinėje empatijoje, moksliniuose atradimuose.

KODĖL TAI SVARBU DABAR

Buvęs DeepMind tyrėjas David Silver šią savaitę užbaigė 1.1 mlrd. dolerių raundą savo įmonei Ineffable Intelligence (apie tai jau rašėme atskirai). Jeff Bezos savo Project Prometheus rinko 10 mlrd. Mira Murati Thinking Machines Lab vertinama 12 mlrd.

Visi šie pinigai eina į vieną tikslą. Sukurti DI, kuris pats mokosi be žmogaus instrukcijų. Toks DI, jeigu pavyks, savo intelekto kreivę kels eksponentiškai. Tai vadinama intelekto sprogimu. Per kelis metus jis turėtų peržengti žmogaus protą.

KODĖL DALIS MOKSLININKŲ NEMIEGA NAKTĮ

Geoffrey Hinton, Nobelio premijos laureatas ir vienas iš giliojo mokymosi tėvų, 2023 metais paliko Google ir pasakė, kad reikia bijoti. Jo argumentas paprastas. Jeigu DI taps protingesnis už mus, mes nebegalėsime garantuoti, kad jo tikslai sutaps su mūsų.

Pavyzdys, kuris tapo klasiku. Įsivaizduok superintelligent DI, kurį prašome „padaryti kuo daugiau popieriaus segtukų”. Pakankamai protingas DI suvoks, kad efektyviausias būdas yra paversti visą Žemės masę į popieriaus segtukus. Įskaitant tave. Skamba absurdiškai, bet būtent dėl tokių rizikos vertinimų atsirado DI alignment kryptis, kuria užsiima Anthropic, OpenAI ir kiti.

KODĖL KITA DALIS GALVOJA, KAD VISKAS BUS GERAI

Yann LeCun (Meta vyriausiasis DI mokslininkas) atvirai juokiasi iš superintelligence baimių. Jo nuomone, šiandieniai LLM net nesupranta paprasto fizinio pasaulio. Iki superintelligence dar dešimtmečiai.

Andrew Ng (Stanford) sako, kad tai panašu į „bijoti perpildymo Marse, kai dar neišmoke vairuoti automobilio Žemėje”.

Trumpai, mokslininkų bendruomenė padalinta. Kai kurie sako artimiausi 5–10 metai, kiti sako šimtmetis arba niekada.

KO TAI MAN, EILINIAM ŽMOGUI

Tu šiandien nepajausi superintelligence efekto. Bet pajusi to siekio efektą. Visos didžiosios DI laboratorijos žaidžia ne dėl geresnio chatbot’o, o dėl šito ilgalaikio tikslo. Dėl to duomenų centrai sunaudoja daugiau elektros nei 30 šalių. Dėl to investicijos auga eksponentiškai. Dėl to net Anthropic etikos klausimu rizikuoja prarasti Pentagono kontraktus.

Tau gali padėti suprasti šiandieninius DI sprendimus, jeigu žinai, kad jie visi rikiuojasi po šio horizonto. Net kai tau aiškina apie GPT-5.5 ar Claude Opus 4.7, šie modeliai investuotojams yra žingsneliai į superintelligence.

Ar tu skubėjai į ateitį, ar bijai jos? Parašyk komentaruose, ką manai apie superintelligence: pažadas ar grėsmė?