Anthropic siūlo, kada JAV galėtų sustabdyti DI modelių leidimą

Anthropic JAV įstatymų leidėjams pristatė pažangiausių DI modelių saugumo projektą, kuris apibrėžtų konkrečias sąlygas jų leidimui ar naudojimui sustabdyti. Spalio 17 dieną CNA paskelbta Reuters ir AFP publikacija remiasi Politico informacija apie spalio 16 dieną aprašytas bendrovės pastangas.

Projektas svarbus tuo, kad ne tik numatytų modelių tikrinimą, bet ir ribotų, kada valstybė galėtų įsikišti į jų diegimą. Tai dar nėra priimtas įstatymas: viešai aprašomas Anthropic pasiūlymas, o ne jau galiojanti JAV pareigūnų sprendimų tvarka.

Pasak CNA perteikiamo Politico pranešimo, valdžia galėtų stabdyti modelio leidimą ar naudojimą tik dėl numatomos ir tiesioginės konkrečios rizikos. Siūlomi slenksčiai būtų didesnė nei vieno milijardo dolerių žala arba daugiau nei penkiasdešimties žmonių žūtis ar sunkus sužalojimas.

Ta rizika turėtų kilti iš biologinio ginklo sukūrimo ar panaudojimo, kibernetinės atakos arba modelio ištrūkimo iš kūrėjo kontrolės. Šie kriterijai aprašo projekte išvardytas grėsmes ir nereiškia, kad toks įvykis jau įvyko ar jo tikimybė nustatyta.

Anthropic atstovas Reuters paaiškino, kad projektas remiasi anksčiau šiemet paskelbto bendrovės Advanced AI Framework pasiūlymais, nurodo CNA publikacija. Jo teigimu, numatomos modelių patikros, skaidrumas apie rezultatus ir nepriklausomas vertinimas, kartu suteikiant galimybę stabdyti pavojingą diegimą.

Pagal Politico aprašytą tvarką nepriklausomi vertintojai registruotųsi JAV Prekybos departamente ir periodiškai tikrintų laboratoriją bei jos pažangiausius modelius. Už tokį darbą galėtų mokėti pačios laboratorijos, jeigu atlygis nebūtų susietas su tuo, kokią išvadą pateiks vertintojas.

Nustačius projekte apibrėžtą tiesioginę riziką, vertintojas turėtų per 72 valandas nuo vertinimo užbaigimo informuoti Prekybos departamentą, rašo CNA. Departamentas galėtų kreiptis į teisėją dėl modelio sustabdymo, o atitinkamą nutartį priimtų Kolumbijos apygardos federalinio teismo teisėjas.

Kartu projektas, pagal tą pačią publikaciją, aiškiai draustų kitoms federalinėms institucijoms ar pareigūnams savarankiškai stabdyti modelių kūrimą, diegimą ir vidinį naudojimą. Taigi siūlomas saugumo mechanizmas apima ir valdžios veiksmų ribas, ne vien papildomas pareigas modelių kūrėjams.

CNA taip pat nurodo, kad projektas pakeistų kai kurių valstijų, įskaitant Kaliforniją, įstatymų taikymą federalinėmis nuostatomis. Publikacijoje primenama ankstesnė Anthropic pozicija, jog nesant stipraus federalinio įstatymo valstijos turėtų išlaikyti visą teisę pačios priimti reguliavimą.

CNA taip pat aprašo teisės tyrimų organizacijos Institute for Law & AI atstovo Charlie Bullock vertinimą, paskelbtą socialiniame tinkle X. Jis pasiūlymą vertino palankiau nei kitų laboratorijų veiksmus, tačiau laikė silpnesniu už konkuruojantį FRONTIER Act projektą, pristatytą šią vasarą.

Įstatymų leidėjams sprendimas dar prieš akis: CNA rašo, kad Kongresas iki kito mėnesio vidurio kadencijos rinkimų posėdžių nerengia. Reuters kreipimosi metu Prekybos departamentas komentaro nepateikė, todėl tolesnė projekto eiga ir institucijos vertinimas viešai dar nebuvo aiškūs.