Atviri modelių svoriai: Anthropic primena, kad laisvė ir saugumas turi kalbėtis
·
atviri modelių svoriai šiandien yra ne gražus žodis skaidrėje, o labai praktiškas klausimas: kas vyksta su darbu, kai DI pradeda ne tik atsakinėti, bet ir veikti?
Anthropic liepos 27 d. paskelbė poziciją apie atvirus modelių svorius. Tema jautri: vieni mato laisvę kurti, kiti mato riziką, kad stiprūs modeliai bus naudojami be pakankamų stabdžių.
Turiu prisipažinti, mane vis mažiau kabina demonstracijos, kur viskas suveikia iš pirmo karto. Gyvenime taip nebūna. Versle dar labiau. Todėl į tokias naujienas žiūriu su viena mintimi: kur čia nauda, o kur vieta prisidaryti bėdos?
KAS NUTIKO
Dario Amodei atsakė į diskusijas dėl galimo kiniškų open-weights modelių ribojimo ir paaiškino Anthropic požiūrį. Bendrovė sako nepalaikanti paprasto draudimo viskam, bet nori rimtai vertinti stiprių modelių saugumo rizikas.
Čia nėra patogios juoda-balta lentelės. Atvirumas padeda tyrėjams, startuoliams ir valstybėms. Bet tas pats atvirumas gali padėti ir tiems, kurių tikslai nėra gražūs.
KODĖL TAI SVARBU
Atviri modeliai leidžia greičiau mokytis, adaptuoti, tikrinti ir kurti vietinius sprendimus. Kartu stiprūs modeliai su atvirais svoriais sunkiau kontroliuojami po išleidimo.
DI jau išlipo iš „parašyk man tekstą“ dėžutės. Jis jungiasi prie duomenų, įrankių, katalogų, kodų saugyklų, klientų istorijų ir kartais prie pinigų. Čia prasideda rimtesnis žaidimas. Ne dėl skambaus pavadinimo, o dėl atsakomybės.
KĄ TAI REIŠKIA VERSLUI
Verslui tai reiškia, kad modelio pasirinkimas nėra vien techninis klausimas. Reikia vertinti licenciją, kilmę, saugumo testus, palaikymą ir tai, kas atsako už pasekmes.
- tikrinti modelio licenciją
- žinoti, kas modelį palaiko
- vertinti saugumo testų istoriją
- nekelti jautrių duomenų į neaiškų sprendimą
Jei įmonė svarsto open-weights modelį, verta pasidaryti trumpą rizikos lentelę: duomenys, paskirtis, prieigos, palaikymas, incidento planas.
KUR GALI SKAUDĖTI
Rizika – pasirinkti modelį tik todėl, kad jis pigus arba madingas. Pigus įrankis su neaiškiomis teisėmis gali brangiai kainuoti vėliau.
Čia ir yra ta vieta, kur smegenys nori pasakyti: „ai, vėliau susitvarkysim“. Vėliau dažniausiai reiškia tada, kai klientas jau parašė, sąskaita jau išaugo arba komanda jau nebežino, kuris agentas ką padarė.
KĄ PASIDARYTI ŠIĄ SAVAITĘ
Prie kiekvieno naudojamo DI modelio užrašykite: tiekėjas, licencija, duomenų ribos, kas patvirtino naudojimą. Jei nežinote atsakymo, tai jau atsakymas.
Šaltinis: Anthropic.
DUK
Kas yra atviri modelių svoriai?
Tai modeliai, kurių svoriai prieinami parsisiųsti, diegti ar adaptuoti pagal licencijos sąlygas.
Kodėl jie svarbūs?
Jie suteikia daugiau kontrolės ir lankstumo, bet kelia didesnius saugumo klausimus.
Ką tikrinti verslui?
Licenciją, kilmę, palaikymą, saugumo testus ir duomenų naudojimo ribas.
Jei norite DI naudoti praktiškai, pradėkite nuo vieno proceso. Vienas pasikartojantis darbas, vienas atsakingas žmogus, vienas matavimas. Daugiau praktikos rasite MasterSprint.
