Y Combinator ragina distiliuoti modelius: atviras DI ieško kelio

Modelių distiliavimas vėl atsidūrė DI ginčo centre. TechCrunch rašo, kad Y Combinator vadovas Garry Tan ragina JAV atvirų svorių laboratorijas naudoti panašias mokymo technikas kaip Kinijos konkurentai.

Skamba techniškai, bet klausimas labai žmogiškas: kas turi teisę mokytis iš stipriausių modelių?

Ir dar vienas klausimas: ar atviras DI gali konkuruoti, jei taisyklės skirtingiems žaidėjams taikomos nevienodai?

KAS YRA DISTILIAVIMAS

Paprastai tariant, distiliavimas reiškia mažesnio modelio mokymą iš didesnio modelio atsakymų ar elgesio. Mažesnis modelis bando perimti dalį gebėjimų be viso brangaus treniravimo nuo nulio.

Tai gali padėti kurti pigesnius, greitesnius ir atviresnius modelius. Bet kartu kyla klausimas, ar taip nėra perimama svetima investicija.

Čia technologija susiduria su verslu, politika ir autorių teisėmis. Viename katile.

KODĖL TAI SVARBU ATVIRIEMS MODELIAMS

Didžiųjų modelių kūrimas kainuoja milžiniškus pinigus. Mažesnėms laboratorijoms sunku konkuruoti, jei jos turi kartoti visą kelią nuo pradžios.

Tan argumentas, pagal TechCrunch, yra apie JAV atvirų svorių alternatyvas. Jei šios laboratorijos negaus būdų greičiau mokytis, rinkoje gali dominuoti uždari arba kitų šalių modeliai.

Tai jau ne vien techninis ginčas. Tai klausimas, kas kontroliuos DI įrankius, kuriais naudosis verslas.

KĄ STEBĖTI TOLIAU

Šioje temoje bus daug triukšmo. Vieni sakys, kad distiliavimas yra normalus mokymasis. Kiti – kad tai svetimos sistemos kopijavimas.

Įmonėms praktinis klausimas paprastesnis: iš kur modelis gavo gebėjimus, kokios jo naudojimo sąlygos ir ar tiekėjas turi aiškias licencijas.

Pigiausias modelis nėra pigus, jei po metų paaiškėja, kad su juo ateina teisinė migla.

FAQ

Kas yra modelių distiliavimas?

Tai metodas, kai mažesnis DI modelis mokosi iš didesnio modelio atsakymų ar elgesio, kad perimtų dalį jo gebėjimų.

Kodėl dėl to kyla ginčų?

Nes kyla klausimas, ar toks mokymas yra teisėtas konkurencijos būdas, ar svetimų investicijų kopijavimas.

Ką tai reiškia įmonėms?

Renkantis modelius verta vertinti ne tik kainą ir kokybę, bet ir licencijas, kilmę bei tiekėjo teisinę riziką.

Šaltinis: TechCrunch.

Rinkdamiesi DI modelį komandai, paklauskite tiekėjo vieno nepatogaus klausimo: iš kokių duomenų ir kokiomis teisėmis modelis mokytas?