DI fabrikai su partneriais: NVIDIA ieško naujo skaičiavimo modelio

·


DI fabrikai ir NVIDIA partnerystės skaičiavimo infrastruktūrai plėsti

DI fabrikai skamba kaip techninis terminas. Bet kai pažiūri praktiškai, čia yra labai žemiškas klausimas: kiek darbo darome rankomis tik todėl, kad niekas neprisėdo sutvarkyti proceso?

NVIDIA pristato partnerystes su DI debesimis ir kapitalo partneriais, kad būtų galima greičiau statyti didelio masto DI fabrikus. Skamba kaip didelių žaidėjų reikalas. Bet iš tikro čia kalba apie labai paprastą dalyką: skaičiavimo galia tampa deficitu, kurį reikia finansuoti kaip infrastruktūrą.

Man tokiose naujienose visada įsijungia mažas vidinis buhalteris. Ne tas, kuris skaičiuoja sąskaitas, o tas, kuris klausia: kiek tai kainuos, kas prižiūrės ir kur gali lūžti?

KAS NUTIKO

NVIDIA kalba apie multi-tenant DI fabrikus, pajamų dalijimosi modelius ir partnerystes, kurios turėtų padėti plėsti skaičiavimo pajėgumus. Tai kryptis, kur DI debesys, aparatinė įranga ir finansavimas jungiami į vieną verslo modelį.

Čia kaip su nekilnojamuoju turtu. Visi nori biuro geroje vietoje, bet kažkas turi pastatyti pastatą, įvesti elektrą, sutvarkyti apsaugą ir prisiimti riziką. Su DI fabrikais panašiai, tik vietoje kabinetų nuomojama skaičiavimo galia.

KODĖL TAI SVARBU

DI fabrikai svarbūs todėl, kad agentai, vaizdo modeliai, moksliniai modeliavimai ir įmonių automatizacija reikalauja daug resursų. Ne kiekviena įmonė gali ar nori pirkti savo infrastruktūrą, todėl atsiranda nauji nuomos ir partnerystės modeliai.

DI jau nebe vien langelis, į kurį įmetame tekstą. Jis jungiasi prie įrankių, moka kviesti servisus, gali veikti keliais žingsniais ir pradeda liesti tikrus verslo pinigus. Čia romantika baigiasi. Prasideda tvarka.

KĄ TAI REIŠKIA VERSLUI

Verslui tai reiškia, kad ateityje DI projektų biudžete gali atsirasti nauja eilutė: skaičiavimo pajėgumų rezervavimas. Kaip šiandien planuojame cloud kaštus, taip rytoj planuosime agentų ir modelių apkrovas.

  • nepradėti projekto be apkrovos prognozės
  • skaičiuoti piko ir vidutinę apkrovą atskirai
  • žiūrėti į regionus bei duomenų laikymo taisykles
  • derėtis dėl kainos, kai naudojimas tampa prognozuojamas

Pavyzdys: jei klientų aptarnavimo agentas veikia visą parą, jo kaina skiriasi nuo eksperimento, kurį paleidžiate kartą per savaitę. Tas pats modelis, kita finansinė realybė.

KUR PASISLĖPUSI RIZIKA

Rizika – užsirakinti pas tiekėją be išėjimo plano. Kol projektas mažas, neskauda. Kai jis tampa kasdieniu procesu, perėjimas gali būti brangus ir lėtas.

Blogiausia DI klaida dažnai neatrodo kaip klaida. Ji ateina gražiai parašytu sakiniu, mandagiu tonu ir labai užtikrintu veidu. Todėl verslui reikia ne tik įrankių, bet ir įpročio tikrinti.

KĄ PASIDARYTI ŠIĄ SAVAITĘ

Prie kiekvieno DI projekto pridėkite klausimą: kas bus, jei naudojimas padidės 10 kartų? Atsakymas greitai parodo, ar turite planą.

Šaltinis: NVIDIA.

DUK

Kas yra DI fabrikai?

Tai didelio masto skaičiavimo infrastruktūra, skirta DI modeliams mokyti, paleisti ir aptarnauti.

Kodėl reikia partnerių?

Nes infrastruktūra brangi, o jos statybai reikia kapitalo, technikos ir patirties.

Kaip tai veikia verslą?

Didina poreikį planuoti DI naudojimą kaip infrastruktūros sąnaudą, ne tik programėlės prenumeratą.

Jei norite DI naudoti ne dėl mados, pradėkite nuo vieno proceso. Paimkite užduotį, kuri kartojasi kas savaitę, susirašykite žingsnius ir tik tada junkite įrankį. Daugiau praktinių DI taikymo pavyzdžių rasite MasterSprint.