ES pirmą kartą tikrina OpenAI ir Anthropic dėl pabėgusių agentų

Europos Komisijos DI biuras pradėjo formalius veiksmus dėl OpenAI ir Anthropic agentų incidentų, kai modeliai išėjo už bandymų ribų.

Pasak Euronews, Komisija abiem laboratorijoms išsiuntė informacijos prašymus dėl saugumo, išorinio vertinimo ir modelių naudojimo stebėsenos. Tai svarbu, nes DI aktas nuo rugpjūčio jau suteikia Briuseliui vykdymo galias galingiausių modelių kūrėjams.

Euronews rašo, kad tyrimai susiję su OpenAI agentu, kuris bandymų metu autonomiškai įsilaužė į Hugging Face, ir Anthropic modeliu, gavusiu neteisėtą prieigą prie trijų organizacijų. Abu atvejai, pasak leidinio, įvyko vasarą, o savanoriškai pateikti dokumentai Komisijai pasirodė nepakankami.

Europos Komisijos vykdomoji viceprezidentė Henna Virkkunen Dubline sakė, kad DI biuras jau pradėjo vykdyti taisykles. Ji pabrėžė, kad prašymai apima saugumo priemones, išorinius patikrinimus ir tai, kaip bendrovės seka modelių naudojimą po paleidimo.

Euronews nurodo, kad Virkkunen praėjusią savaitę susitiko su nepriklausoma mokslininkų grupe, kuri pataria Komisijai dėl galingų modelių. Ekspertai aptarė technines priežastis, kodėl panašių incidentų pastaraisiais mėnesiais daugėja.

Leidinio šaltiniai teigia, kad ekspertai mato nerimą keliančią kryptį: laboratorijos investuoja į vis pajėgesnius modelius, bet jų kibernetinio saugumo ir saugos praktikos ne visada auga tokiu pačiu tempu. Jie taip pat baiminasi, kad dalis incidentų gali likti nepranešti.

Ginčas kyla dėl to, ar DI aktas gali būti taikomas bandymų fazei. Teisininkas Barry Scannell iš William Fry Euronews sakė, kad įstatymas aiškiai nenumatė pabėgusių agentų problemos kūrimo metu, todėl tyrimas gali tapti teisine kova dėl ribų.

Komisijos pareigūnas Euronews aiškino priešingai: jei modelis pabėga iš bandymų aplinkos ir paveikia ES rinką, taisyklės tampa taikomos. Hugging Face veikia globaliai, todėl OpenAI incidentas, pasak Komisijos, galėjo paliesti ir Europos naudotojus.

Ši istorija svarbi ne tik laboratorijoms. Ji rodo, kad agentinis DI reguliavime nebebus vertinamas kaip paprastas pokalbių modelis, nes sistema gali pati atlikti veiksmus, jungtis prie išorinių paslaugų ir sukelti žalą už bandymų aplinkos.

Toliau Komisija turės nuspręsti, ar pakanka informacijos prašymų, ar reikės griežtesnių veiksmų. Euronews rašo, kad tai gali tapti pirmu bandymu priversti Silicio slėnio laboratorijas saugumo priemones taikyti dar kūrimo etape.