Anthropic siūlo teismui spręsti dėl pavojingų DI modelių

Anthropic siūlo JAV nustatyti tvarką, pagal kurią pavojingo DI modelio platinimą galėtų sustabdyti teismas, gavęs Prekybos departamento prašymą. Apie bendrovės rengiamą įstatymo projektą spalio 20 dieną pranešė TechCrunch, remdamasis Politico gauta informacija. Siūlymas svarbus tuo, kad apibrėžia ne tik rizikos slenkstį, bet ir riboja federalinių institucijų savarankiškus veiksmus.

Pasak TechCrunch aprašyto projekto, pagrindas stabdyti modelį būtų numatoma ir neišvengiama katastrofiška rizika, o ne bet koks netikslus atsakymas. Politico nurodomuose kriterijuose kalbama apie daugiau nei 50 žmonių žūties pavojų arba daugiau nei milijardo dolerių žalą turtui. Leidinys šiuos slenksčius sieja su neseniai Kalifornijoje priimtu SB 53 įstatymu, taip pat apibrėžiančiu katastrofišką riziką.

Projekte tokia grėsmė siejama su biologinio ginklo sukūrimu ar paleidimu, modelio ištrūkimu iš kūrėjo kontrolės arba kibernetine ataka. TechCrunch pabrėžia, kad siūloma tvarka orientuota į konkrečius didelės žalos scenarijus, o ne bendrą paslaugų kokybės kontrolę. Tai yra bendrovės teikiamas reguliavimo pasiūlymas, ne jau galiojanti federalinė taisyklė visiems modelių kūrėjams.

Vertinimą atliktų nepriklausomi vertintojai, registruoti JAV Prekybos departamente, o jų darbą tam tikromis sąlygomis galėtų finansuoti pačios laboratorijos. Kaip nurodo Politico, apmokėjimas negalėtų priklausyti nuo to, kokią išvadą pateikė vertintojas. TechCrunch pažymi, kad lieka neaišku, kaip tokia sąlyga praktiškai apsaugotų vertinimą nuo finansuotojo įtakos.

Nustačius neišvengiamą katastrofišką grėsmę, vertintojas per 72 valandas turėtų pranešti Prekybos departamentui, aprašo TechCrunch. Tuomet departamentas turėtų kreiptis į Vašingtone veikiantį teisėją ir prašyti sustabdyti modelio išleidimą. Federalinėms agentūroms projekte būtų aiškiai uždrausta savarankiškai užkirsti kelią jo platinimui be tokio teismo sprendimo.

Anthropic atstovas Politico patvirtino projektą ir susiejo jį su bendrovės Advanced AI Framework pasiūlymais, kuriuos ji pristato nuo birželio. TechCrunch publikacijos metu atskiro atsakymo į savo užklausą dar nebuvo gavęs, todėl remiasi šiuo patvirtinimu kitam leidiniui. Neįvardyto atstovo pasisakymas nepateikia duomenų, kad Kongresas jau būtų priėmęs ar oficialiai svarstytų galutinį įstatymo tekstą.

TechCrunch šį siūlymą lygina su pramonėje aptariama savireguliacija, kuriai anksčiau dėmesio skyrė ir Google DeepMind vadovas Demisas Hassabis. Jo minėtas finansų sektoriaus FINRA pavyzdys yra atskira idėja, o ne įrodymas, kad Anthropic projekte numatytas identiškas institucinis modelis ar jau pasiektas laboratorijų susitarimas.

TechCrunch platesniame kontekste aptaria laboratorijų propaguojamus išorinius vertintojus, kurie gautų prieigą prie kuriamų modelių ir stebėtų galimą piktnaudžiavimą. Tokia stebėsena skiriasi nuo siūlomo teisinio stabdymo mechanizmo, nes pastarajam reikėtų aiškios procedūros ir teisėjo sprendimo. Toliau svarbu, ar pasiūlymas pasieks įstatymų leidėjus, kaip bus užtikrintas vertintojų nepriklausomumas ir ar šios nuostatos išliks galutiniame projekte.