Nvidia DI pranašumas: žaidimas persikelia už GPU ribų

Nvidia DI pranašumas ilgai buvo aiškinamas labai paprastai: geriausi GPU, didžiausia paklausa, eilės klientų.

Bet TechCrunch rašo apie kitą sluoksnį. Naujos kartos duomenų centrų sistemos daugiau efektyvumo gauna ne tik iš procesorių ciklų, bet ir iš išmanesnio srauto valdymo.

Skamba sausai. Kol nepamatai, kad DI lenktynėse laimi ne tas, kas turi vieną greitą detalę, o tas, kas sujungia visą virtuvę.

NE VIENAS LUSTAS DARO STEBUKLĄ

Kai vadovai kalba apie DI infrastruktūrą, dažnai viskas susiveda į vieną žodį: GPU. Kiek turime? Kiek kainuoja? Kada atvažiuos?

Tik realybėje GPU yra tik dalis sistemos. Reikia tinklų, atminties, duomenų judėjimo, energijos, aušinimo ir programinės įrangos, kuri neišbarsto galios pakeliui.

Čia Nvidia turi pranašumą, nes parduoda ne vien lustą. Ji parduoda visą darbo mašiną aplink lustą.

KODĖL SRAUTAS SVARBUS

DI modelių treniravime ir dideliuose užklausų srautuose duomenys nuolat keliauja tarp komponentų. Jei jie stringa, brangūs lustai laukia kaip darbininkai be medžiagų.

TechCrunch akcentuoja, kad naujos sistemos efektyvumą kelia ir protingesnis srauto valdymas. Kitaip tariant, ne tik daugiau raumenų, bet ir geresnė logistika.

Verslui tai reiškia vieną paprastą dalyką: pigiausias GPU pasiūlymas nebūtinai yra pigiausias sprendimas.

PAMOKA LIETUVOS KOMANDOMS

Mažesnėms įmonėms nereikia statyti savo duomenų centro. Bet šita istorija moko teisingai klausti tiekėjų.

Klausimas nėra tik „koks modelis?“ ar „koks GPU?“. Klauskite apie vėlavimą, duomenų vietą, apkrovų valdymą, kainą piko metu ir sutarties ribas.

DI projektas dažnai stringa ne ten, kur gražus demo. Jis stringa ten, kur prasideda kasdienis naudojimas.

FAQ

Kodėl Nvidia pranašumas nėra vien GPU?

Nes dideliems DI darbams reikia visos infrastruktūros: tinklų, atminties, srauto valdymo, energijos ir programinės įrangos.

Ką reiškia išmanesnis srauto valdymas?

Tai duomenų ir užklausų paskirstymas taip, kad brangūs skaičiavimo resursai kuo mažiau lauktų ir kuo daugiau dirbtų.

Ką turėtų vertinti įmonės?

Ne vien modelio ar GPU kainą, bet bendrą užduoties kainą, greitį, patikimumą ir duomenų valdymo sąlygas.

Šaltinis: TechCrunch.

Jei renkatės DI infrastruktūrą, pradėkite nuo proceso, ne nuo lustų pavadinimų. Praktinį DI diegimo kelią dėliojame MasterSprint programoje.