SageMaker AI ant EKS: kai DI komandai nebereikia bėgioti tarp įrankių
·

SageMaker AI EKS priedas leidžia JupyterLab ir Code Editor paleisti tame pačiame klasteryje, kuriame jau sukasi DI komandos pipeline’ai. Skamba techniškai. Bet realybėje tai apie vieną labai buitinį dalyką: kiek kartų per dieną žmogus turi bėgioti tarp įrankių.
ĮRANKIŲ ŠOKINĖJIMAS KAINUOJA
Duomenų mokslininkas dirba vienoje aplinkoje, pipeline’ai kitoje, leidimai trečioje, GPU resursai dar kitur. Tada atsiranda vietinis failas, kuris „tik laikinai“, ir po savaitės niekas nežino, kuri versija tikra.
AWS sprendimas čia gana konkretus: SageMaker AI Spaces add-on ant Amazon EKS leidžia valdomas JupyterLab ir Code Editor aplinkas paleisti tame pačiame klasteryje. Yra naršyklės prieiga, VS Code jungtis per SSH-over-SSM ir OpenID Connect prisijungimas su Cognito.
Taip, tai labiau aktualu techninėms komandoms. Bet vadovui signalas paprastas: DI produktyvumas krenta ne tik dėl modelio klaidų. Jis krenta dėl darbo aplinkos trinties.
KAI TVARKA GREITINA
Kartais norisi pirkti naują modelį, nes atrodo, kad jis išspręs viską. O tada paaiškėja, kad komanda daugiausia laiko praranda ne skaičiuodama, o laukdama prieigų, kilnodama duomenis ir derindama aplinkas.
DI projektui reikia ne tik protingo modelio. Reikia vietos, kur darbas pakartojamas, leidimai aiškūs, eksperimentas gali virsti produkcija, o ne likti vieno žmogaus laptopo istorija.
KLAUSIMAI KOMANDAI
Ar jūsų DI eksperimentai turi vieną vietą? Ar aišku, kas turi prieigą prie duomenų? Ar galima po mėnesio atkartoti modelio mokymą ar analizę?
Jeigu atsakymai migloti, problema dar ne modelyje. Problema darbo virtuvėje. Ir ją verta susitvarkyti prieš spaudžiant gazą.
Šaltinis: pirminis pranešimas.
Trumpi atsakymai
Kas yra SageMaker AI EKS priedas?
Tai AWS priedas, leidžiantis valdomas kūrimo aplinkas paleisti Amazon EKS klasteryje.
Kam jis skirtas?
Duomenų mokslininkams ir DI komandoms, kurios nori dirbti arčiau savo pipeline’ų, duomenų ir GPU resursų.
Kodėl tai svarbu verslui?
Mažiau aplinkų šokinėjimo reiškia mažiau klaidų, greitesnį darbą ir aiškesnį kelią į produkciją.
DI komandoms verta matuoti ne tik modelio tikslumą, bet ir laiką, kurį žmonės praranda junginėdami aplinkas. Kartais ten pasislėpęs visas produktyvumo laimėjimas.


