Anthropic perspėja artėjanti prie DI spartinamos modelių kūrimo ribos
Anthropic IPO dokumentuose perspėja apie galimą staigų modelių kūrimo spartėjimą. Dabartinių modelių bendrovė dar nepriskyrė peržengusiems savo nustatytą ribą.
Anthropic perspėja, kad artimiausi modeliai gali priartinti bendrovę prie jos nustatytos ribos, kai pats DI smarkiai spartina tolesnį DI kūrimą. Apie atnaujintame biržos dokumente išdėstytą riziką lapkričio 2 dieną pranešė TechCrunch; tai nėra paskelbtas naujas modelis.
Lapkričio 2 dienos S-1/A dokumente Anthropic nurodo, kad prognozė remiasi vidaus vertinimais ir būsimų modelių lūkesčiais. Bendrovė pabrėžia, kad nė vieno dabartinio modelio dar nepripažino peržengusiu šią ribą ir toliau vertina duomenis.
Dokumente aiškinama, kad naujų gebėjimų augimas gali aplenkti saugos priemonių kūrimą, patvirtinimą ir diegimą pačios laboratorijos darbo procesuose. Dalis turimų rodiklių vėluoja, todėl reikšmingas spartėjimas gali būti nustatytas jau po fakto, kaip bendrovė teigia anksčiau patyrusi.
Anthropic tame pačiame dokumente nurodo svarstanti atsakingo plėtros valdymo taisyklių pakeitimus, kurie išlaikytų žmonių kontrolę kuriant pažangiausius modelius. Ji nesitiki saugiai perduoti viso būsimų modelių projektavimo ir kūrimo Claude sistemai be reikšmingos žmogaus priežiūros ar supratimo.
Rizikos apraše taip pat nurodoma, kad ankstesnių modelių klaidos gali persikelti į vėlesnes versijas, kai šios kuriamos pasitelkiant DI. Laboratorija numato tolesnes ataskaitas pagal savo plėtros politiką, tačiau dokumente nepateikia tikslios galimo slenksčio pasiekimo datos.
Anthropic Institute ankstesnėje analizėje šį procesą atskiria nuo visiško rekursinio tobulėjimo, kai sistema savarankiškai suprojektuotų ir sukurtų savo įpėdinę. Institutas nurodo, kad tokia būsena dar nepasiekta, o techninė jos galimybė nelaikoma neišvengiamu dabartinės plėtros rezultatu.
Instituto aprašyme atskiriami inžineriniai darbai ir tyrimų krypties pasirinkimas: Claude geriau vykdo apibrėžtus eksperimentus, nei savarankiškai nusprendžia, ką tirti. Žmogaus vaidmuo todėl išlieka nustatant tikslus, sprendžiant, kuriais rezultatais pasitikėti, ir atpažįstant tyrimų aklavietes.
Kaip vieną ankstesnio spartėjimo požymį institutas pateikia 2026 metų antrojo ketvirčio rodiklį: vienam inžinieriui teko aštuoniskart daugiau įtraukiamo kodo nei 2024 metais. Pačioje analizėje pripažįstama, kad kodo eilučių kiekis neparodo kokybės ir tikrą našumo prieaugį gali padidinti.
Toje analizėje pateiktas ir aiškiai apibrėžto mokymo kodo spartinimo bandymas: Claude Mythos Preview vidutiniškai pasiekė maždaug 52 kartų pagreitėjimą. Institutas šį rezultatą sieja su eksperimento vykdymu pagal iš anksto nustatytą tikslą, o ne visiškai savarankišku mokslo problemos pasirinkimu.
Instituto aprašytoje 130 tyrimų darbuotojų apklausoje tipinis atsakęs žmogus vertino su Mythos Preview atliekantis maždaug keturiskart daugiau darbo. Analizėje autoriai pažymi, kad šis subjektyvus našumo įvertis tikrą naudą galėjo padidinti.
Anthropic Institute taip pat nurodo organizacinę kliūtį: augant automatiškai parašyto kodo kiekiui, žmonių atliekama jo peržiūra tampa nauju darbo ribojimu. Toliau laboratorijai teks parodyti, kaip didėjantį kūrimo greitį lydės patikra, ir paskelbti žadėtus papildomus savo ribos vertinimus.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
