Anthropic ir Nscale 45 mlrd. dolerių sandoris: DI apetitui reikia elektros ir lustų
·
Anthropic ir Nscale 45 mlrd. dolerių sandoris labai aiškiai pasako, kur šiandien vyksta DI karas.
Ne tik pokalbio lange. Ne tik modelių palyginimo lentelėje. Labai daug kovos vyksta ten, kur paprastam vartotojui nuobodu: duomenų centruose, elektros sutartyse, lustų eilėse.
TechCrunch rašo, kad Anthropic tęsia didžiulį skaičiavimo galios pirkimą. Ir čia yra gera pamoka kiekvienam vadovui: DI nėra tik programėlė. Tai infrastruktūros apetitas.
KODĖL SKAIČIAVIMO GALIA TAPO TOKIA BRANGI
Kiekvienas geresnis modelis nori daugiau. Daugiau treniravimo, daugiau testavimo, daugiau vartotojų užklausų, daugiau agentų, kurie dirba ilgiau nei vieną atsakymą.
Kai DI naudojamas tik tekstui parašyti, sąskaita dar atrodo padori. Kai jis pradeda skaityti dokumentus, planuoti veiksmus, naudoti įrankius ir veikti per kelias sistemas, skaičiavimas pradeda ryti biudžetą.
Todėl Anthropic tipo sandoriai nėra tik „dar viena investicija“. Tai ženklas, kad didžiųjų modelių tiekėjai bando užsitikrinti kurą ateinantiems metams.
VERSLUI ČIA YRA LABAI PRAKTIŠKAS SIGNALAS
Jeigu tiekėjai moka dešimtis milijardų už pajėgumus, galutiniam klientui kaina stebuklingai neišnyks. Ji kažkur pasirodys: prenumeratoje, API tarife, ribojimuose arba prioritetinėje prieigoje.
Todėl įmonėms verta skaičiuoti ne tik „ar DI gali padaryti užduotį“. Reikia klausti: kiek kainuoja vienas procesas, kiek kartų jis sukasi per mėnesį ir ar rezultatas tikrai vertas sąskaitos.
Atrodo smulkmena, kol mėnesio gale neateina ataskaita. Tada romantika baigiasi labai greitai.
EUROPAI TAI IRGI NE ŠIAIP NAUJIENA
Europa daug kalba apie suverenų DI, duomenų apsaugą ir vietinę infrastruktūrą. Bet be skaičiavimo galios visa tai lieka gražūs sakiniai dokumentuose.
Jeigu modeliai, agentai ir verslo sistemos priklausys nuo kelių didelių tiekėjų už Atlanto, priklausomybė niekur nedings. Tik pasikeis jos forma.
Dėl to DI infrastruktūra tampa ne IT skyriaus užgaida, o strateginiu klausimu. Čia jau nebe apie vieną įrankį. Čia apie tai, kas valdys darbo variklį.
FAQ
Kodėl Anthropic reikia tiek skaičiavimo galios?
Didesni modeliai, daugiau vartotojų ir agentiniai darbai reikalauja daugiau duomenų centrų pajėgumų.
Ką tai reiškia DI kainoms?
Tikėtina, kad infrastruktūros kaina atsispindės prenumeratose, API tarifuose arba naudojimo limituose.
Kodėl tai aktualu Europai?
Europa nori daugiau savarankiškumo DI srityje, bet tam reikia vietinės skaičiavimo galios ir duomenų centrų.
Šaltinis: TechCrunch.
Prieš diegdami DI į visą įmonę, suskaičiuokite vieno proceso kainą. Praktinę metodiką tam dėliojame Salvaro mokymuose ir audituose.
