Shieldstral: Mistral parodė, kad DI saugumas gali būti lengvesnis
Mistral pristatė Shieldstral - mažą atvirų svorių multimodalinį saugumo klasifikatorių tekstui ir vaizdams.
Šiame straipsnyje · 5 dalys
- Ar Shieldstral yra DI modelis? Taip. Tai saugumo klasifikatorius, skirtas vertinti tekstą ir vaizdus pagal pasirinktą politiką.
- Kas yra atviri svoriai? Tai reiškia, kad modelio svoriai yra prieinami naudotojams, todėl jį galima tirti, pritaikyti ir diegti su daugiau kontrolės.
- Ar tokio modelio užtenka saugumui? Ne. Jis yra viena apsaugos dalis. Reikia aiškių taisyklių, testavimo ir žmogaus atsakomybės.
DI saugumas dažnai skamba kaip didelių laboratorijų tema. Tarsi kažkur sėdi komitetai, rašo dokumentus, o paprastas verslas laukia, kol kažkas nuspręs, ką galima daryti.
Mistral su Shieldstral pataikė į kitą vietą. Rugpjūčio pradžioje pristatytas 3B dydžio atvirų svorių multimodalinis saugumo klasifikatorius skirtas vertinti tekstą ir vaizdus pagal paprastai aprašomas politikas.
Kas yra shieldstral
Shieldstral yra modelis, kuris padeda nuspręsti, ar turinys atitinka pasirinktą saugumo politiką. Jis gali dirbti su tekstu ir vaizdais, o Mistral teigia, kad modelis veikia efektyviai net su viena 16GB NVIDIA GPU korta.
Čia įdomiausia ne skaičius. Įdomiausia tai, kad politika gali būti pateikiama žmoniška kalba. Ne vien tik kietai įkalti filtrai, kuriuos po to visi apeidinėja kaip tvorą kaime.
Kodėl verslui tai aktualu
Įmonės šiandien pradeda naudoti DI klientų aptarnavime, vidinėse žinių bazėse, marketinge, dokumentų analizėje. Ir tada ateina labai nemalonus klausimas: kas užtikrina, kad sistema nepradės daryti nesąmonių?
Vienas vadovas man neseniai pasakytų maždaug taip: „Maz, aš noriu automatizuoti, bet nenoriu ryte atsikelti ir pamatyti, kad botas klientui pažadėjo tai, ko mes net neturim.“
Va čia tokie modeliai kaip Shieldstral gali būti naudingi. Jie nėra stebuklingas skydas. Bet jie leidžia statyti papildomą patikrinimo sluoksnį.
Ne tik dideliems
Mažas modelis reiškia, kad saugumo eksperimentai tampa prieinamesni. Ne kiekvienai komandai reikia milžiniško debesų biudžeto. Kartais reikia nedidelio, aiškaus filtro, kuris patikrina, ar turinys neprasilenkia su įmonės taisyklėmis.
Ypač ten, kur turinys generuojamas didesniais kiekiais: produktų aprašymai, klientų atsakymai, reklamos tekstai, vartotojų įkeliami vaizdai.
Kur neapsigaukti
Saugumo modelis neatleidžia nuo atsakomybės. Jeigu įmonė neturi aiškių taisyklių, modelis neturės ką tikrinti. Čia kaip su treneriu: jeigu nepasakai, kad ruošiesi triatlonui, jis gali tau duoti visai ne tą programą.
Pirmas darbas – ne parsisiųsti Shieldstral. Pirmas darbas – apsirašyti, kas jūsų įmonei yra priimtina, rizikinga ir draudžiama.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
