Anthropic įspėja: DI jau rašo 80 proc. mūsų kodo. Ar laikas stabdyti pasaulinę DI lenktynę?

Tai paradoksas, kurį sunku ignoruoti. Kompanija, kuri kuria vieną galingiausių pasaulyje DI sistemų, birželio 4 dieną pasakė: gal verta pristabdyti. Anthropic, kuri šiemet pralenkė OpenAI vertinimu ir pasiekė 965 mlrd. dolerių rinkos vertę, viešai paskelbė, kad pasaulinė DI lenktynė gali turėti ribas.

Ir ne teorines ribas. Konkretūs duomenys buvo pateikti, ir jie yra verti dėmesio.

Skaičiai, kurie turėtų tave sustabdyti bent minutei

Anthropic pateikė du faktinius stebėjimus, kurie daugeliui buvo netikėti:

Pirma, jų inžinieriai šiandien vidutiniškai sukuria 8 kartus daugiau kodo per ketvirtį, lyginant su 2021-2025 metų vidurkiu. Tai ne žmonių produktyvumas, tai DI asistencija, kuri keičia, ką apskritai reiškia „dirbti programuotoju”.

Antra, daugiau nei 80 procentų viso kodo, kuris šiuo metu patenka į Anthropic gamybines sistemas, buvo parašyta pačios Claude. Žmonės vis dar peržiūri, tikrina ir tvirtina, bet fiziškai rašo kodą bei intelektualiai kuria logiką daugiau nei 4 iš 5 atvejų ne žmogus, o DI sistema.

Tai vyksta vienoje iš labiausiai stebimų, rūpestingiausiai valdomų DI laboratorijų pasaulyje. DI agentai anksčiau neatlaikė realaus pasaulio testų, bet situacija akivaizdžiai sparčiai keičiasi.

Kodėl Anthropic siūlo pauzę ir ką tai reiškia?

Anthropic teigia, kad pasaulinė galimybė pristabdyti ar sulėtinti DI vystymąsi „tikriausiai būtų geras dalykas”. Kompanija nurodė konkrečią priežastį: frontaliniai modeliai jau greitina save. DI padeda mokslininkams kurti geresnius DI modelius, o tai sukuria grįžtamąjį ryšį, kurį žmonėms vis sunkiau kontroliuoti.

Siūlomas sprendimas yra tarptautinis koordinuotas susitarimas, kuris leistų patikrinti, ar kitos šalys iš tiesų sustojo ar sulėtino, ir neleistų vienai šaliai pasinaudoti pauzės dingstimi, kad slapta pralėktų pirmyn.

Čia svarbu suprasti, kas kalba. Tai ne mažas akademinis institutas be pinigų ir interesų. Tai kompanija, vertinama 965 mlrd. dolerių, kuri ką tik pateikė IPO dokumentus ir kurios pajamos viršija 30 mlrd. dolerių per metus. Jei tokia organizacija sako „verta pristabdyti”, tai nėra tuščias kalbėjimas.

Kita vertus, kyla natūralus klausimas: kai AGI horizonte ir DeepMind vadovas kalba apie 2029 metus, kas iš tiesų sustotų ir kaip tai patikrintum?

Realybė: kas iš tikrųjų sustotų?

Ekonominis ir geopolitinis kontekstas yra negailestingas. JAV, Kinija, ES visos žiūri į DI kaip į strateginį privalumą. Nė viena iš šių galių negali sau leisti sustoti, kol kita tęsia. Tai klasikinė „kalinio dilema” pasauliniu mastu.

Be to, „sustojimas” yra neaiškiai apibrėžtas. Kas laikoma „sustoti”? Sustabdyti naujų modelių kūrimą? Pristabdyti skaičiavimo galios augimą? Nebebandyti tobulinti architektūros? Kiekvienas apibrėžimas sukelia kitokius interesus ir kitokias išimtis.

Taip pat verta atkreipti dėmesį į kontekstą. Anthropic paskelbė šį kvietimą tą pačią savaitę, kai plėtė „Project Glasswing” ir suteikė NATO bei Samsung prieigą prie slapčiausio Claude modelio. Šie du veiksmai nėra prieštaraujantys vienas kitam, bet kartu jie rodo, kad „stabdymas” yra sudėtingesnis nei paprastas „išjungti mygtuką”.

Kas man atrodo tikrai svarbu šiame pranešime: Anthropic pateikė konkrečius vidaus duomenis apie tai, kaip greitai DI keičia jų pačių organizaciją. 80 proc. kodo parašyta Claude. Tai realybė, kurios dauguma kompanijų dar neturi, bet kurią turės per 2-3 metus. Ir klausimas „ar esame tam pasiruošę” tampa toks pat aktualus Lietuvoje, kaip ir San Franciske.

Ar nereikia tuo pat metu stebėti DI klaidų ir spragų ir suprasti, kiek greitai šios sistemos tobulėja? Tai klausimas, kurį reikia sau užduoti kiekvienam, kas naudoja DI savo darbe.

Pilną Anthropic pareiškimą anglų kalba galite perskaityti SiliconANGLE straipsnyje apie šią temą.