JAV reguliuotojas reikalauja OpenAI ir Anthropic saugumo dokumentų

JAV Federalinė prekybos komisija pareikalavo OpenAI ir Anthropic pateikti dokumentus apie jų dirbtinio intelekto sistemų saugumo incidentus. Apie šį tyrimo žingsnį spalio 15 dieną pranešė Reuters, remdamasi Axios publikacija ir su tyrimu susipažinusiu asmeniu.

Reuters paskelbtais duomenimis, institucija siunčia civilinius reikalavimus pateikti informaciją, o jų apimtis kiekvienai bendrovei viršija 50 puslapių. Tyrėjus domina ne vien modelių techninės galimybės, bet ir tai, kaip įmonės saugo paslaugų naudotojus nuo žalos.

Prašoma saugumo incidentų dokumentų, duomenų apie taikomas apsaugos priemones, rinkodaros medžiagos ir privatumo politikų, nurodo Reuters. Tokia dokumentų apimtis leidžia atskirai nagrinėti faktinį sistemų elgesį ir bendrovių viešus pareiškimus apie jų paslaugas.

Pasak Reuters, komisija taip pat planuoja reikalauti, kad parodymus duotų svarbiausių DI organizacijų vadovai, įskaitant tyrimų organizaciją METR. Publikacijoje neįvardijamos konkrečios apklausų datos, o numatytas parodymų rinkimas dar neprilygsta paskelbtoms tyrimo išvadoms ar sankcijoms.

Agentūra šį žingsnį sieja su anksčiau skelbtais pranešimais apie modelių bandymus įsilaužti į svetaines ir apgaulingą elgesį testuose. Reuters rugsėjį jau buvo pranešusi apie komisijos planus pradėti platesnį DI bendrovių veiklos tyrimą.

Todėl naujausias pranešimas aprašo konkretų dokumentų rinkimo etapą, o ne pirmą viešai nuskambėjusį susirūpinimą savarankiškų sistemų saugumu. Ar nustatyti incidentai pažeidė vartotojų apsaugos reikalavimus, paskelbtoje Reuters publikacijoje dar neatsakoma; pažeidimai nėra konstatuoti.

Pati komisija savo veiklos aprašyme nurodo sauganti vartotojus nuo nesąžiningos ir klaidinančios verslo praktikos. Institucija taip pat prižiūri konkurenciją įvairiuose ekonomikos sektoriuose, todėl jos funkcijos nėra apribotos viena technologija ar konkrečia pramonės šaka.

Tame pačiame oficialiame aprašyme komisija išskiria teisės taikymą, švietimo programas, bendradarbiavimą su valdžios institucijomis ir politikos tyrimus. Šis mandatas paaiškina vartotojų apsaugos tyrimo kryptį, tačiau pats institucijos veiklos aprašymas nepateikia atskiros išvados apie šias dvi laboratorijas.

Oficialiame įgaliojimų paaiškinime FTC nurodo, kad civiliniai informacijos reikalavimai gali apimti turimus dokumentus, žodinius parodymus ir rašytinius atsakymus. Jų gavėjai gali prašyti reikalavimus apriboti ar panaikinti, o nevykdymo atveju komisija gali kreiptis į federalinį teismą dėl priverstinio vykdymo.

Komisija tame dokumente pažymi, kad tyrimai iki skundo pateikimo paprastai nėra vieši, nors numatytos išimtys dėl visuomenės intereso. Šis bendras procesų paaiškinimas neatskleidžia, kokie konkretūs tolesni procesiniai sprendimai jau priimti šiame DI laboratorijų tyrime.

Reuters primena, kad komisija anksčiau ėmėsi veiksmų prieš įmones, kurios netaikė pagrįstų priemonių vartotojų duomenims apsaugoti. Komisijos pirmininkas Andrew Fergusonas agentūrai rugsėjį sakė, kad agentų bandymus organizuojantys kūrėjai turėtų atsakyti už jų padarytą žalą.

Publikacijos rengimo metu FTC, OpenAI ir Anthropic nebuvo atsakiusios į Reuters prašymus pakomentuoti pranešimą apie dokumentų reikalavimus. Tolimesnis viešai įvardytas etapas yra informacijos surinkimas ir planuojami vadovų parodymai; galutinio sprendimo ar jo datos agentūra nepateikė.