SageMaker AI rekomendacijos: pigesnis modelis ne visada pigiau dirba
·
SageMaker AI rekomendacijos šiandien nėra vien graži antraštė technologijų žmonėms. Už jos slepiasi labai paprastas klausimas: ar DI jau padeda padaryti darbą, ar tik gražiai atrodo pristatyme?
AWS pristatė Amazon SageMaker AI Studio sąsają, kuri padeda pasirinkti modelio paleidimo konfigūraciją. Skamba techniškai. Bet vadovui čia yra vienas paprastas klausimas: kiek iš tikro kainuoja DI atsakymas?
Atvirai? Tokiose naujienose man įdomiausia ne demo. Demo beveik visada atrodo kaip sporto salės reklama sausio pirmą. Visi energingi, visi šypsosi. Tikras klausimas prasideda po savaitės, kai grįžta terminai, klaidos, klientai ir sąskaitos.
KAS NUTIKO
Nauja sąsaja leidžia pasirinkti naudojimo profilį, paleisti optimizavimo darbą, palyginti rezultatus ir vienu paspaudimu diegti rekomenduojamą konfigūraciją į produkciją. Anksčiau tokiam darbui dažnai reikėjo rankinių testų ir infrastruktūros patirties.
Čia kaip rinktis automobilį pagal kuro sąnaudas, bet pamiršti remontą, laiką servise ir tai, ar jis apskritai nuveža iki vietos.
KODĖL TAI SVARBU
SageMaker AI rekomendacijos svarbios todėl, kad DI kaina priklauso ne tik nuo modelio kainoraščio. Svarbu vėlinimas, pralaidumas, klaidos, peržiūros ir pakartotiniai bandymai.
DI po truputį keliasi iš pokalbių langelio į procesus. Ten jam nebeužtenka gražiai atsakyti. Reikia žinoti, iš kur paimti duomenys, kas turi teisę veikti, kiek kainuoja viena užduotis ir kada žmogus turi sustabdyti automatą.
KĄ TAI REIŠKIA VERSLUI
Verslui tai reiškia, kad modelio pasirinkimas turi būti skaičiuojamas pagal rezultatą. Pigesnis modelis, kuriam reikia trijų bandymų ir žmogaus taisymo, gali būti brangesnis už stipresnį modelį.
- matuoti kainą už sėkmingą užduotį
- testuoti su realiu srautu
- lyginti vėlinimą ir kokybę kartu
- peržiūrėti konfigūraciją po modelio atnaujinimų
Pradėkite nuo vieno darbo: pavyzdžiui klientų laiškų klasifikavimo. Išmatuokite ne vien kainą, bet kiek atsakymų iš karto tinkami naudoti.
KUR GALIMA PASLYSTI
Rizika – įsimylėti vieną modelį. DI infrastruktūra keičiasi greitai, todėl vakar geriausias pasirinkimas po mėnesio gali būti tik įprotis.
Blogiausia DI klaida dažnai neatrodo kaip klaida. Ji ateina tvarkingu sakiniu, mandagiu tonu ir tokiu pasitikėjimu, kad norisi tiesiog spausti „siųsti“. Čia ir prasideda disciplina.
KĄ PASIDARYTI ŠIĄ SAVAITĘ
Pasidarykite mažą lentelę: modelis, kaina, atsakymo laikas, sėkmingų užduočių dalis, žmogaus taisymo laikas.
Šaltinis: Amazon Web Services.
DUK
Ką pristatė AWS?
SageMaker AI Studio sąsają generatyvinio DI paleidimo rekomendacijoms.
Kodėl tai svarbu verslui?
Padeda pasirinkti konfigūraciją pagal kainą, greitį ir realų rezultatą.
Ką matuoti?
Kainą už sėkmingą užduotį, vėlinimą, kokybę ir žmogaus taisymo laiką.
Jeigu norite DI naudoti praktiškai, pradėkite nuo vieno proceso. Ne nuo įrankių sąrašo. Paimkite darbą, kuris kartojasi, aprašykite rezultatą ir tik tada junkite DI. Daugiau praktikos rasite MasterSprint.
