Atnaujinta 17:44 Paieška⌘K Prenumeruoti
Technologijos· Nvidia

NVIDIA gamyba Amerikoje: DI infrastruktūra tampa pramonės klausimu

NVIDIA pabrėžia Blackwell lustų, sistemų surinkimo ir DI fabrikų gamybą JAV.

DIDI Žinios redakcija Naujienų skyriusPaskelbta · 3 min. skaitymo
NVIDIA gamyba Amerikoje: DI infrastruktūra tampa pramonės klausimu
Nuotrauka: NVIDIA
Šiame straipsnyje · 6 dalys
  1. Svarbiausia
  2. Kas nutiko
  3. Kodėl tai svarbu
  4. Ką tai reiškia verslui
  5. Kur pasislėpusi rizika
  6. Ką pasidaryti šią savaitę
Svarbiausia
  • Kas yra DI infrastruktūra? Tai lustai, serveriai, duomenų centrai, tinklai ir programinė aplinka, reikalinga DI modeliams veikti.
  • Kodėl NVIDIA gamyba JAV svarbi? Ji rodo, kad DI tampa pramonės ir tiekimo grandinių klausimu, ne tik programinės įrangos tema.
  • Ką tai reiškia Lietuvos verslui? Reikia planuoti DI kaštus ir tiekėjų priklausomybes, net jei infrastruktūra fiziškai yra užsienyje.

DI infrastruktūra skamba kaip techninis terminas. Bet kai pažiūri praktiškai, čia yra labai žemiškas klausimas: kiek darbo darome rankomis tik todėl, kad niekas neprisėdo sutvarkyti proceso?

NVIDIA rašo apie Blackwell lustų gamybą, sistemų surinkimą ir DI fabrikų statybą JAV. Atrodo toli nuo kasdienio verslo Lietuvoje. Bet kai DI tampa infrastruktūra, klausimas jau ne tik „kokį įrankį naudosime?“ Klausimas ir toks: kur bus skaičiavimo galia?

Man tokiose naujienose visada įsijungia mažas vidinis buhalteris. Ne tas, kuris skaičiuoja sąskaitas, o tas, kuris klausia: kiek tai kainuos, kas prižiūrės ir kur gali lūžti?

Kas nutiko

Publikacijoje NVIDIA akcentuoja TSMC gamyklą Arizonoje, Blackwell wafers gamybą, sistemų surinkimą, serverių tiekimo grandinę ir ekonominį poveikį. Minima, kad DI infrastruktūros paklausa kuria darbo vietas ir keičia pramonės planavimą.

Anksčiau DI dažnai atrodė kaip programėlė. Prisijungei, parašei promptą, gavai atsakymą. Bet už to atsakymo stovi lustai, aušinimas, elektros tinklai, duomenų centrai, logistika ir žmonės su šalmais gamyklose. Romantika truputį prapuola, bet realybė pasidaro aiškesnė.

Kodėl tai svarbu

DI infrastruktūra svarbi todėl, kad modeliai neauga ore. Kuo daugiau įmonės diegia agentus, vaizdo analizę ar mokymą su savais duomenimis, tuo labiau priklauso nuo skaičiavimo galios prieinamumo, kainos ir tiekimo stabilumo.

DI jau nebe vien langelis, į kurį įmetame tekstą. Jis jungiasi prie įrankių, moka kviesti servisus, gali veikti keliais žingsniais ir pradeda liesti tikrus verslo pinigus. Čia romantika baigiasi. Prasideda tvarka.

Ką tai reiškia verslui

Verslui tai reiškia, kad DI strategijoje reikia kalbėti ne tik apie funkcijas, bet ir apie sąnaudas. Kur veiks modeliai? Kiek kainuos inferencija? Kas nutiks, jei regionas neturi reikiamos galios arba kaina šoktels?

  • įvertinti skaičiavimo kainą prieš diegimą
  • atskirti eksperimentus nuo produkcinių apkrovų
  • turėti atsarginį modelio ar tiekėjo variantą
  • planuoti energijos ir duomenų centro priklausomybes

Praktinis pavyzdys: įmonė, kuri planuoja vaizdo analizę 24/7, turi skaičiuoti ne tik modelio tikslumą. Reikia skaičiuoti GPU laiką, saugojimą, duomenų perdavimą ir palaikymą.

Kur pasislėpusi rizika

Rizika – galvoti, kad DI sąskaita bus kaip paprasto SaaS. Kai procesai pradeda suktis nuolat, mažos kainos vienam veiksmui virsta dideliais mėnesio skaičiais.

Blogiausia DI klaida dažnai neatrodo kaip klaida. Ji ateina gražiai parašytu sakiniu, mandagiu tonu ir labai užtikrintu veidu. Todėl verslui reikia ne tik įrankių, bet ir įpročio tikrinti.

Patiko? Sekmadienį gaukite svarbiausias savaitės DI naujienas.Dešimt naujienų vienu laišku lietuviškai.
Prenumeruoti

Ką pasidaryti šią savaitę

Padarykite vieną DI projekto kaštų lapą: modelis, skaičiavimas, duomenys, žmonės, palaikymas. Jei nėra skaičių, nėra ir strategijos.

DI
DI Žinios redakcija

Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.

Skaitykite toliau

Kas sekmadienį, 10:00

Svarbiausios savaitės DI naujienos vienu laišku

Dešimt naujienų iš penkių temų lietuviškai. Be perteklinio triukšmo.

10naujienų5temos1×per savaitę