SageMaker meta-monitoring: modeliai turi būti prižiūrimi prieš klientui supykstant
·
SageMaker meta-monitoring yra viena iš tų DI temų, kur lengva nuslysti į gražius pažadus. Aš siūlau žiūrėti žemiškai: kas keičiasi darbe, kas sutaupo laiką, kur gali skaudėti?
AWS liepos 30 d. aprašė SageMaker meta-monitoring Amazon Quick aplinkoje. Mintis labai paprasta: modelio kokybės negalima tikrinti tik tada, kai klientas jau parašė piktą laišką.
Atvirai? Man vis mažiau įdomūs pristatymai, kuriuose rodomas tik blizgus demo. Įdomiau, kas lieka po demo: teisės, logai, kokybės matavimas, pinigai ir žmogus, kuris atsako už rezultatą.
KAS NUTIKO
Sprendimas sėdi virš produkcinių SageMaker AI inference procesų ir nuolat stebi prognozių kokybę, duomenų pokyčius, tendencijas bei anomalijas. Amazon Quick naudojamas tam, kad komanda matytų vaizdą ne tik per logus, bet ir per aiškias suvestines.
Man čia primena automobilio tepalų lemputę. Ji erzina, kol viskas važiuoja. Bet kai variklis užkala, staiga supranti, kad ta maža lemputė buvo draugas.
KODĖL TAI SVARBU
Kai DI modelis jau veikia realiame procese, jis susiduria su naujais klientais, keistais duomenimis, sezoniškumu ir žmonių elgesio pokyčiais. Modelis gali tyliai prastėti, o komanda dar kurį laiką galvoti, kad viskas gerai.
DI jau nebe vien langelis tekstui parašyti. Jis jungiasi prie sistemų, skaito duomenis, veikia keliais žingsniais ir kartais paliečia klientus, pinigus ar saugumą. Čia reikia ne tik smalsumo. Reikia tvarkos.
KĄ TAI REIŠKIA VERSLUI
Verslui čia svarbiausia ne pati AWS schema, o įprotis: jei modelis daro sprendimą ar rekomendaciją, turi būti matoma, kada jis pradeda slysti.
- matuoti prognozių kokybę po paleidimo
- stebėti duomenų pasikeitimus
- turėti ribas, kada modelis stabdomas arba peržiūrimas
- atskirti techninę klaidą nuo verslo poveikio
Pirmas žingsnis gali būti vienas dashboardas: kiek užklausų apdorojo modelis, kiek buvo neįprastų įėjimų, kur krito tikslumas, kas pasikeitė per savaitę.
KUR GALI SKAUDĖTI
Rizika – žiūrėti tik į uptime. Modelis gali veikti techniškai, bet duoti blogesnius atsakymus. Serveris žalias, klientas raudonas.
Blogiausia DI klaida dažnai ateina mandagiu tonu. Viskas skamba užtikrintai, tik rezultatas klaidingas. Dėl to man patinka paprasta taisyklė: kuo didesnė kaina, tuo daugiau žmogaus patikros.
KĄ PASIDARYTI ŠIĄ SAVAITĘ
Šią savaitę pasiimk vieną DI procesą ir parašyk tris signalus, kurie parodytų, kad jo kokybė prastėja.
Šaltinis: Amazon Web Services.
DUK
Kas yra SageMaker meta-monitoring?
Tai papildomas stebėsenos sluoksnis, kuris seka modelio prognozių ir duomenų kokybę po paleidimo.
Kodėl neužtenka paprasto monitoringo?
Uptime parodo, ar sistema veikia. Kokybės stebėsena parodo, ar ji dar daro teisingą darbą.
Nuo ko pradėti?
Nuo vieno modelio, aiškių kokybės metrikų ir taisyklės, kas reaguoja į signalą.
Jei nori DI naudoti praktiškai, pradėk nuo vieno proceso. Vienas pasikartojantis darbas, vienas atsakingas žmogus, vienas matavimas. Daugiau praktinių DI pritaikymo pavyzdžių rasi MasterSprint.
