Anthropic ir Akamai sandoris: DI debesija ne visada reiškia vien GPU
·

Anthropic ir Akamai sandoris rodo, kad DI infrastruktūros lenktynės nėra tik apie brangiausius GPU.
TechCrunch rašo, kad Anthropic įsipareigojo per septynerius metus sumokėti Akamai 11,6 mlrd. dolerių už debesijos infrastruktūrą. Sandoris gali augti dar labiau, o Akamai Anthropic suteikia galimybę gauti iki 5 proc. akcijų paketo.
Čia jau nebe laboratorijos eksperimentas. Čia infrastruktūros pramonė su labai didelėmis sąskaitomis.
KODĖL TAI SVARBU
Apie DI skaičiavimą dažniausiai kalbame per GPU. Nvidia, lustai, duomenų centrai, elektros poreikis. Viskas teisinga. Bet DI paslaugai reikia ir daug platesnės infrastruktūros.
Reikia tinklo, saugyklų, procesorių, paskirstymo, patikimumo, saugumo, aptarnavimo skirtinguose regionuose. Kitaip modelis gali būti protingas, bet paslauga vis tiek strigs.
Akamai šiame paveiksle įdomi todėl, kad ji ilgai dirbo su turinio pristatymu ir tinklo infrastruktūra. DI paslaugoms toks sluoksnis tampa vis svarbesnis.
PINIGAI RODO MASTELĮ
11,6 mlrd. dolerių per septynerius metus yra suma, kurią verta skaityti ne kaip naujienos skaičių, o kaip signalą.
DI įmonės nebeparduoda tik modelio. Jos perka galimybę aptarnauti milijonus užklausų, išlaikyti greitį, sumažinti vėlavimą ir turėti atsarginį planą, kai paklausa šauna į viršų.
Čia kaip restoranui: receptas svarbus, bet jei virtuvė per maža, klientai išeis alkani.
KĄ TAI REIŠKIA RINKAI
DI debesijos rinka platėja. Ne visi laimėtojai bus tie, kurie turi tik pačius galingiausius lustus. Laimės ir tie, kurie moka patikimai pristatyti paslaugą.
Verslui tai reiškia, kad renkantis DI tiekėją verta klausti ne tik apie modelio kokybę. Reikia klausti apie prieinamumą, duomenų vietą, atsargines sistemas, kainą ir sutartinius įsipareigojimus.
Modelis yra variklis. Bet be kelio, degalų ir serviso jis labai greitai tampa brangiu eksponatu.
FAQ
Kokio dydžio Anthropic ir Akamai sandoris?
TechCrunch rašo, kad Anthropic įsipareigojo sumokėti Akamai 11,6 mlrd. dolerių per septynerius metus.
Kodėl DI debesijai reikia ne tik GPU?
DI paslaugoms reikia tinklo, saugyklų, procesorių, saugumo, regioninio paskirstymo ir patikimo veikimo dideliu mastu.
Ką tai reiškia DI tiekėjų pasirinkimui?
Įmonės turėtų vertinti ne tik modelio atsakymų kokybę, bet ir infrastruktūros patikimumą, kainą bei duomenų valdymą.
Šaltinis: TechCrunch.
Jei perkate DI paslaugą verslui, į pirkimo klausimyną įdėkite infrastruktūrą. Ne tik „kaip gerai atsako“, bet ir „kas bus, kai visi pradės naudoti vienu metu“.


