Šeši METR tyrėjai gaus prieigą prie Anthropic vidaus sistemų
Anthropic įsileidžia šešis nepriklausomos METR organizacijos darbuotojus. Jie galės skelbti rizikos vertinimus be bendrovės veto.
Šeši nepriklausomos METR organizacijos darbuotojai gaus prieigą prie Anthropic įrankių ir sistemų, artimą bendrovės vidinių rizikos vertintojų galimybėms. Spalio 15 dienos pranešime Anthropic nurodo, kad vertintojai patys skelbs išvadas apie modelių riziką, incidentus ir saugumo praktiką.
Bendrovė tyrėjams suteikė kompiuterius, darbo vietas biure ir prieigą prie vidinių įrankių, tačiau toks susitarimas turi aiškiai apibrėžtas išimtis. Anthropic nurodo klientų duomenis, teisinės paslapties saugomą informaciją ir dalį duomenų apie modelių architektūrą, kurių automatiškai neatskleis.
Pasak bendrovės, darbuotojai turėtų su METR grupe dalytis informacija panašiai kaip su kolegomis, kurie dirba modelių suderinimo rizikos srityje. Susitarimu siekiama sumažinti skirtumą tarp to, ką apie sistemų elgesį žino pati laboratorija ir išoriniai jos vertintojai.
Anthropic teigia neturėsianti teisės vetuoti METR publikacijų, nors galės reikalauti pašalinti siaurai apibrėžtų kategorijų konfidencialią informaciją prieš paskelbimą. METR savo ruožtu galės viešai apibūdinti tokius pašalinimus ir pasakyti, ar jie pagrįsti, neatskleisdama paties saugomo turinio.
Į bendrovės veiklą įtraukta komanda bus atskirta nuo kitų METR darbuotojų, įskaitant tyrėjus, kurie su Anthropic vykdo kitus projektus. Pranešime pabrėžiama, kad tai ribotos grupės darbas pagal vykdytinas sutartis, o ne bendras informacijos perdavimas kitoms organizacijoms.
Bendrovė kuria trijų lygių vertintojų prieigos sistemą, kurioje METR susitarimas atitinka aukščiausią pakopą pagal informacijos apimtį ir darbo sąlygas. Pirmojo lygio tyrimai siauri, o jų skelbimui reikia leidimo; antrajame leidimo nebereikia, tačiau prieiga dar mažesnė.
Anthropic nurodo bendradarbiaujanti ir su SecureBio, kuri vertina rugpjūčio rizikos ataskaitos skyrių apie cheminius bei biologinius ginklus. Su Accenture ir Faculty planuojamas modelių tikrinimas, apsaugų bandymai ir suderinimo vertinimai, o pokalbiai su Hugging Face dar ankstyvi.
Pasak TechCrunch, šis žingsnis įgyvendina vadovo Dario Amodei rugsėjį išdėstytą pažadą laboratorijų viduje įkurdinti nepriklausomus išorinius vertintojus. Leidinys susitarimą sieja su nuo rugpjūčio pabaigos skelbiamais agentų incidentais ir sustiprėjusiais reikalavimais nepriklausomai tikrinti DI bendroves.
TechCrunch primena, kad prie Baltųjų rūmų susitarimo dėl išorinio vertinimo prisijungė ir kitos didžiosios laboratorijos bei technologijų bendrovės. Tačiau Anthropic aprašytas šešių tyrėjų įtraukimas yra konkretus jos susitarimas, o ne jau įgyvendinta vienoda viso sektoriaus priežiūra.
Nepriklausomumą Anthropic apibrėžia ir finansinėmis sąlygomis: vertintojai neturėtų turėti vertinamos įmonės akcijų ar priklausyti nuo jos finansiškai bei organizaciškai. Pranešime taip pat išskiriama būtinybė suprasti galimus pačių vertinimų trūkumus, įskaitant modelių apsimestinį taisyklių laikymąsi.
Bendrovė toliau ketina plėsti nepriklausomų vertintojų skaičių ir dalytis informacija apie partnerystes, tačiau pirmųjų METR išvadų datos nenurodo. Anthropic pranešimas pristato prieigos bei publikavimo sąlygas, o ne paties nepriklausomo vertinimo rezultatą ar patvirtinimą, kad rizikų neliko.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
