Sam Altman atmintį siūlo telkti intensyviau dirbančioje debesijoje
Sam Altman pareiškė, kad ribotą DRAM pasiūlą efektyviau naudoti debesijoje nei retai apkrautuose asmeniniuose kompiuteriuose. Tai jo argumentas, ne paskelbta tiekimo taisyklė.
OpenAI vadovas Sam Altman teigia, kad ribotą operatyviosios atminties pasiūlą efektyviau išnaudotų nuolat dirbanti debesija nei retiems DI skaičiavimams naudojami kompiuteriai. Tom’s Hardware spalio 30 dieną aptarė jo pasisakymą Cheeky Pint pokalbyje apie vietinį modelių vykdymą ir bendrą skaičiavimo išteklių paskirstymą.
Pasak leidinio, Altman kalbėjo apie prielaidą, kad žmonės galėtų naudoti atvirus DI modelius savo jau turimuose arba planuojamuose įsigyti kompiuteriuose. Vadovas šį pasirinkimą vertino pasaulinės atminties pasiūlos požiūriu, o ne pristatė naują OpenAI produkto funkciją ar techninį draudimą.
Tom’s Hardware perteikia Altman argumentą, kad namų įrenginiuose laikoma ribota DRAM dalis kartais naudojama tik 5 procentus laiko. Šis skaičius pokalbyje yra jo pateiktas panaudojimo pavyzdys: straipsnyje nepridedama reprezentatyvaus visų asmeninių kompiuterių apkrovos tyrimo, kuris jį pagrįstų.
Altman teigimu, esant pasiūlos ribojimams reikėtų siekti kuo didesnio panaudojimo debesijoje, kur bendri ištekliai gali aptarnauti skirtingus klientus. Tom’s Hardware pažymi, kad tokia pozicija kartu atitinka OpenAI verslo modelį, nes pagrindiniai jos modeliai veikia bendrovės valdomoje infrastruktūroje.
Leidinys atskiria vietinių modelių galimybę nuo dabartinio jų poveikio OpenAI: nešiojamieji ir žaidimų kompiuteriai dar nėra lygiavertis visų debesijos paslaugų pakaitalas. Tačiau galimybė pačiam vykdyti modelį ilgainiui galėtų pakeisti, už kokias prenumeratas naudotojas sutinka mokėti ir kokius darbus atlieka vietoje.
Tom’s Hardware kritikuoja ir paties panaudojimo argumento prielaidą, kad duomenų centrų statybų mastas ateityje toliau didės ir turės prioritetą. Leidinys nurodo, kad asmeninio kompiuterio atmintis naudojama ne tik DI, bet ir skaičiuoklėms, naršymui bei žaidimams, todėl paskirtys tiesiogiai nesutampa.
Tai reiškia, kad mažas konkretaus vietinio modelio darbo laikas pats savaime dar neparodo viso kompiuterio atminties naudingumo kitoms užduotims. Šis skirtumas kyla iš Tom’s Hardware pateikto palyginimo tarp centralizuotos DI infrastruktūros ir kelioms asmeninėms reikmėms naudojamo kompiuterio.
Pasak leidinio, tame pačiame plačiame pokalbyje buvo aptartos ir PHP pažeidžiamumų naujienos, modelių izoliavimas mokymo metu bei OpenAI matematikos tyrimai. Taigi plačiai išplitęs atminties komentaras buvo vienas iš diskusijos epizodų, o ne atskiras bendrovės paskelbtas kompiuterių rinkos planas.
Tom’s Hardware aprašymas nepateikia sprendimo, kuriuo namų kompiuteriams būtų ribojamas atminties kiekis arba keičiamas vietinių modelių prieinamumas. Altman nuomonės apie išteklių paskirstymą todėl negalima pateikti kaip jau veikiančios taisyklės, skirtos įrangos pirkėjams ar atvirų modelių kūrėjams.
Toliau lieka atviras klausimas, kaip atminties pasiūla ir skirtingų modelių aparatūros poreikiai paveiks vietinio DI ekonominį patrauklumą naudotojams. Paskelbtame Tom’s Hardware tekste nėra naujo OpenAI atminties tiekimo susitarimo ar terminuoto produkto pokyčio, todėl konkretaus įgyvendinimo grafiko ši diskusija kol kas neturi.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
