Anthropic teigia sumažinusi Claude distiliacijos atakas iki 99 procentų
Anthropic aprašė naujas gynybos priemones prieš bandymus slapta kopijuoti Claude gebėjimus į kitus modelius.
Anthropic spalio 12 dieną paskelbė, kad naujos priemonės sumažino Claude distiliacijos atakų surenkamus duomenis maždaug 90–99 procentais. Bendrovė rašo, kad kalba apie pramoninio masto bandymus kopijuoti frontier modelių gebėjimus be leidimo.
Ši naujiena svarbi todėl, kad modelių distiliacija jau nebėra vien akademinis metodas mažesniam modeliui mokyti. Pasak Anthropic, kai kurios laboratorijos naudoja netikras paskyras ir didelius užklausų kiekius, kad perimtų stipresnio modelio samprotavimo pavyzdžius.
Anthropic aiškina, kad vertingiausia atakų dalis yra ne vien galutinis atsakymas, o modelio samprotavimo pėdsakai. Bendrovės teigimu, tokie duomenys padeda mažesniam modeliui išmokti, kaip Claude pasiekia sprendimą, todėl paprastas atsakymų ribojimas nebėra pakankamas.
Bendrovė rašo, kad anksčiau Claude naudotojams rodė sutrumpintą samprotavimo santrauką, nes pilnesni pėdsakai buvo naudingi distiliuotojams. Po šio pakeitimo atakos tapo aktyvesnės, o užklausos bandė priversti modelį atskleisti ankstesnį mąstymą beveik pažodžiui.
Anthropic mini Zhipu ir GLM-5.3 kaip pavyzdį, kuriame, jos teigimu, buvo bandyta distiliuoti JAV modelių kibernetinius gebėjimus. Bendrovė taip pat rašo apie Kimi atvejį, kuriame užklausos esą buvo slapta persiunčiamos į Claude kaip distiliavimo pastangų dalis.
Pasak Anthropic, gynyba turi kainą: bendrovė atsisakė reikšmingų pajamų ir trilijonų žetonų vertės mokamo srauto. Tai rodo, kad modelių saugumas tampa ne vien etikos dokumentu, bet ir tiesioginiu verslo sprendimu, kuris mažina kai kurias pajamas.
Bendrovė rašo, kad kai kurios naujos priemonės sumažino patogumą ir įprastiems klientams, todėl jos buvo derinamos su produktų komandomis. Šis kompromisas svarbus, nes distiliacijos gynyba turi ne tik atpažinti piktnaudžiavimą, bet ir nesugadinti teisėto darbo.
Lietuvos ir Europos įmonėms ši tema aktuali dėl tiekėjų patikimumo. Jei modelių gebėjimai kopijuojami be proporcingų saugiklių, rinkoje gali atsirasti pigesnių, bet blogiau valdomų sistemų, kurios atrodo pajėgios, tačiau neturi tokio pat saugumo sluoksnio.
Toliau Anthropic žada dalintis praktika su kitais modelių kūrėjais ir platformomis. Didžiausias klausimas bus, ar tokios apsaugos taps bendra pramonės norma, ar kiekviena laboratorija kurs atskiras gynybas prieš vis labiau organizuotus distiliacijos bandymus.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
