OpenAI projektavo lustą su savo DI: inžinieriaus darbas keičia tempą

OpenAI lustas su DI skamba beveik kaip uždaras ratas: modeliai padeda kurti geležį, kuri paskui aptarnauja modelius.

IEEE Spectrum aprašė OpenAI Jalapeño akseleratorių ir tai, kaip projektavimo procesą spartino pačios OpenAI didieji kalbos modeliai.

Skaičiai įspūdingi: nuo pirmos architektūros idėjos iki pirmo silicio – mažiau nei 20 mėnesių. Lustų pasaulyje tai nėra pasivaikščiojimas parke.

KĄ PARODĖ JALAPEÑO

IEEE Spectrum rašo, kad Jalapeño siekia iki 13,4 petaflopo 4 bitų skaičiavimo, turi 232 GB pažangios atminties ir labai didelį pralaidumą.

Bet dar įdomiau ne vien našumo lentelė. Įdomu tai, kad OpenAI naudojo savo modelius projektavimo darbams spartinti: tyrinėti variantus, tikrinti idėjas, greičiau judėti per sudėtingus pasirinkimus.

Inžinieriai, pasak OpenAI atstovo, vis tiek lieka vairuotojai. DI tampa įrankiu, kuris leidžia greičiau pamatyti daugiau kelių.

KODĖL LUSTŲ PROJEKTAVIMAS TINKA DI

Lustų kūrimas yra pilnas taisyklių, apribojimų ir iteracijų. Vienas pakeitimas paveikia našumą, energiją, šilumą, kainą ir gamybos riziką.

Tai darbas, kuriame reikia daug tikrinimo. DI čia gali padėti ne todėl, kad jis pakeičia ekspertą, o todėl, kad greitai perbėga per variantus ir padeda žmogui neužstrigti prie pirmo sprendimo.

Kaip treneris baseine: jis už tave nenuplauks, bet pamatys, kur ranka krenta ne taip.

KĄ TAI REIŠKIA PLAČIAU

Jeigu DI padeda kurti naujus DI lustus, vystymo ciklas gali trumpėti. Tai reiškia greitesnę infrastruktūros kaitą, daugiau specializuotų sprendimų ir dar didesnį spaudimą tiekėjams.

Mažesnės komandos gali padaryti daugiau, jei turi gerus įrankius. IEEE rašo, kad OpenAI hardware grupė projekte vidutiniškai turėjo mažiau nei 100 žmonių.

Čia nėra pasaka apie žmogaus pakeitimą. Čia pasaka apie darbo tempo pasikeitimą. Ir tas tempas dabar kyla.

FAQ

Kas yra OpenAI Jalapeño?

Jalapeño yra OpenAI debiutinis DI akseleratoriaus lustas, skirtas modelių skaičiavimams ir inferencijai.

Kaip DI padėjo kurti lustą?

OpenAI naudojo didžiuosius kalbos modelius projektavimo procesui spartinti, variantams tyrinėti ir inžinierių darbui pagreitinti.

Ar DI pakeis lustų inžinierius?

Ne. Bent šiame pavyzdyje DI yra pagalbinis įrankis, o galutinį sprendimą priima inžinieriai.

Šaltinis: IEEE Spectrum.

Techninėms komandoms verta išbandyti DI ten, kur daug kartotinių patikrų. Ne vietoj žmogaus. Šalia žmogaus, kuris supranta, ką tikrina.