Open-weights modeliai: Anthropic sako, kad draudimas ne išeitis
·
open-weights modeliai šiandien yra viena iš tų DI temų, kur labai lengva nuslysti į skambias frazes. Aš bandau žiūrėti paprasčiau: ką žmogus rytoj darbe darys kitaip?
Anthropic liepos 27 d. paskelbė poziciją dėl open-weights modelių. Tema karšta, nes dalis JAV diskusijų sukasi apie kiniškų atvirų modelių ribojimą. Anthropic sako aiškiai: bendras draudimas nėra geras atsakymas.
Atvirai? Tokiose naujienose man mažiau įdomu, kas garsiau suplojo scenoje. Įdomiau, kur yra realus darbas, reali rizika ir realus sutaupytas laikas.
KAS NUTIKO
Dario Amodei rašo, kad open-weights modeliai be pavojingų gebėjimų yra viešoji gėrybė. Jie padeda verslams, tyrėjams ir kūrėjams. Jo rūpestis labiau susijęs su labai pajėgiais modeliais, kurie galėtų būti naudojami kibernetinėms ar biologinėms grėsmėms.
Čia tokia vieta, kur lengva įkristi į dvi stovyklas. Vieni šaukia „viską atverti“. Kiti – „viską uždrausti“. Gyvenime dažniausiai būna purviniau.
KODĖL TAI SVARBU
Open-weights modeliai svarbūs todėl, kad jie leidžia įmonėms turėti daugiau kontrolės: modelį galima paleisti savo infrastruktūroje, derinti, audituoti, saugoti duomenis vietoje. Bet kuo modelis galingesnis, tuo rimtesnis klausimas: kas atsako už jo naudojimą?
DI jau seniai perėjo iš „pabandykim promptą“ zonos. Dabar klausimas kitas: ar sistema įsipaišo į procesą, ar tik sukuria dar vieną vietą, kurią reikia tikrinti?
Ir čia prasideda vadovo darbas. Ne gražiausias įrankis laimi. Laimi tas, kuris turi savininką, aiškią užduotį ir ribas.
KĄ TAI REIŠKIA VERSLUI
Lietuvos verslui tai labai praktiška tema. Ne visiems reikia brangiausio uždaro modelio. Kartais užtenka atviro modelio vidiniams dokumentams, klasifikavimui ar paprastam asistentui. Bet reikia saugumo taisyklių.
- atskirti atvirus modelius pagal rizikos lygį
- nelaikyti open-source automatiškai saugiu
- tikrinti licenciją ir duomenų taisykles
- nenaudoti jautrių duomenų be aiškaus pagrindo
Jeigu testuoji atvirą modelį, pradėk nuo nekritinės užduoties. Pavyzdžiui, vidinių žinių bazės klausimų, kur atsakymas turi šaltinius ir žmogus gali greitai patikrinti.
Jei skamba per paprastai, vadinasi, judame teisinga kryptimi. Geras DI diegimas dažnai atrodo ne kaip fejerverkai, o kaip tvarkingas darbo stalčius.
KUR GALI SKAUDĖTI
Rizika – romantizuoti atvirumą. Atviras modelis gali būti pigesnis ir lankstesnis. Bet jei niekas jo neprižiūri, jis tampa dar vienu serveriu, apie kurį prisiminsi tik tada, kai bus bėda.
Blogiausia DI klaida dažnai neateina su raudonu įspėjimu. Ji ateina gražiu sakiniu, ramiu tonu ir užtikrintu veidu. Dėl to reikia tikrinimo, logų ir žmogaus sprendimo ten, kur kaina didesnė.
KĄ PASIDARYTI ŠIĄ SAVAITĘ
Pasidaryk trumpą modelių inventorizaciją: ką naudoji, kur veikia, kokius duomenis mato, kas atsakingas. Nuobodu? Taip. Bet nuo to prasideda suaugęs DI naudojimas.
Mano taisyklė paprasta: jei negali pasakyti, kaip matuosi rezultatą, dar ne automatizuoji. Dar tik žaidi.
Šaltinis: Anthropic.
DUK
Kas yra open-weights modeliai?
Tai DI modeliai, kurių svoriai prieinami naudotojams ir gali būti paleidžiami ar derinami savarankiškai.
Ar Anthropic nori juos uždrausti?
Anthropic savo pozicijoje teigia, kad bendri draudimai nėra jų siūlomas kelias.
Kuo tai svarbu verslui?
Atviri modeliai gali suteikti daugiau kontrolės ir mažesnę kainą, bet reikalauja aiškios rizikos tvarkos.
Jei nori DI naudoti praktiškai, pradėk nuo vieno proceso. Vienas pasikartojantis darbas, vienas atsakingas žmogus, vienas matavimas. Daugiau praktinių DI taikymo pavyzdžių rasi MasterSprint.
