45 laipsnių aušinimas: DI fabrikai pradeda taupyti energiją
·
DI fabrikų aušinimas skamba kaip techninis terminas. Bet kai pažiūri praktiškai, čia yra labai žemiškas klausimas: kiek darbo darome rankomis tik todėl, kad niekas neprisėdo sutvarkyti proceso?
NVIDIA aprašė naują DI serverių aušinimo kryptį: skystis gali būti net iki 45 laipsnių Celsijaus. Skamba kaip karšta vonia, bet duomenų centrams tai gali reikšti mažesnes energijos sąnaudas.
Man tokiose naujienose visada įsijungia mažas vidinis buhalteris. Ne tas, kuris skaičiuoja sąskaitas, o tas, kuris klausia: kiek tai kainuos, kas prižiūrės ir kur gali lūžti?
KAS NUTIKO
Aukštesnės temperatūros skysčio aušinimas leidžia efektyviau išvesti šilumą iš labai tankių DI serverių. Kai serverių spintos ryja vis daugiau elektros, aušinimas tampa ne priedu, o verslo skaičiumi.
Čia toks labai neblizgus DI kampas. Visi kalba apie modelius, agentus ir gražius demo. O kažkur duomenų centre žmogus sprendžia, kaip neperkaisti mašinai, kuri tuos demo veža.
KODĖL TAI SVARBU
DI infrastruktūra brangsta ne tik dėl lustų. Brangsta energija, aušinimas, patalpos, elektros įvadai ir eksploatacija. Todėl kiekvienas efektyvumo procentas pradeda matytis sąskaitoje.
DI jau nebe vien langelis, į kurį įmetame tekstą. Jis jungiasi prie įrankių, moka kviesti servisus, gali veikti keliais žingsniais ir pradeda liesti tikrus verslo pinigus. Čia romantika baigiasi. Prasideda tvarka.
KĄ TAI REIŠKIA VERSLUI
Verslui tai primena paprastą tiesą: DI kaina nėra vien prenumerata už įrankį. Už jos stovi fizinė infrastruktūra, ir ji daro įtaką kainodarai, prieinamumui bei tiekėjų pasirinkimui.
- skaičiuoti DI sprendimo kainą su infrastruktūros dalimi
- klausti tiekėjų apie energijos efektyvumą
- neplanuoti didelių modelių be kaštų ribų
- matuoti realią naudą vienai užduočiai
Jei įmonė kuria DI produktą, verta iškart turėti kaštų lentelę: kiek kainuoja viena užklausa, viena analizė, vienas agento ciklas.
KUR PASISLĖPUSI RIZIKA
Rizika – manyti, kad DI pajėgumai bus neriboti ir visada pigs. Fizika turi savo nuomonę. Ir ji dažnai ateina per elektros sąskaitą.
Blogiausia DI klaida dažnai neatrodo kaip klaida. Ji ateina gražiai parašytu sakiniu, mandagiu tonu ir labai užtikrintu veidu. Todėl verslui reikia ne tik įrankių, bet ir įpročio tikrinti.
KĄ PASIDARYTI ŠIĄ SAVAITĘ
Paimkite vieną DI naudojimo atvejį ir paskaičiuokite kainą ne mėnesiui, o vienam rezultatui. Tada matosi tiesa.
Šaltinis: NVIDIA.
DUK
Kodėl DI serveriams reikia skysčio aušinimo?
Nes galingi lustai generuoja daug šilumos, o tradicinis oro aušinimas ne visada pakankamas.
Kodėl minimi 45 laipsniai?
Aukštesnė skysčio temperatūra gali padėti efektyviau valdyti energiją duomenų centruose.
Ką tai reiškia įmonėms?
DI kaštus reikia vertinti kartu su infrastruktūra ir energijos sąnaudomis.
Jei norite DI naudoti ne dėl mados, pradėkite nuo vieno proceso. Paimkite užduotį, kuri kartojasi kas savaitę, susirašykite žingsnius ir tik tada junkite įrankį. Daugiau praktinių DI taikymo pavyzdžių rasite MasterSprint.
