OpenAI saugumo tyrėjai ginčija atleidimą ir kalba apie baimę

Trys buvę OpenAI saugumo tyrėjai viešame laiške paneigė bendrovės kaltinimus ir perspėjo apie baimės atmosferą saugumo komandose.

TechCrunch spalio 8 dieną rašo, kad laišką paskelbė Jasmine Wang, Tomek Korbak ir Mikita Balesni, atleisti praėjusią savaitę. Pasak leidinio, OpenAI juos kaltino jautrios informacijos tvarkymu ir perdavimu ne pagal bendrovės procedūras.

Tyrėjai laiške OpenAI saugumo komitetams teigia, kad vidaus ir išorės komunikacija apie jų atleidimą privertė buvusius kolegas bijoti kalbėti. Jie rašo, kad DI saugumo darbui reikia bendradarbiavimo su išoriniais ekspertais ir aiškių procedūrų, leidžiančių tokį darbą atlikti be baimės.

Pasak TechCrunch, trijulė taip pat paneigė dalyvavimą nutekinant informaciją The Information apie naujų modelių architektūras, kurias esą sunkiau stebėti per chain-of-thought signalus. Jie nurodė, kad nedirbo su išorinėmis šalimis už savo pareigų ribų.

Laiške tyrėjai rašo, kad OpenAI anksčiau skatino darbuotojus kelti saugumo klausimus ir atvirai nesutikti su sprendimais. Jų teigimu, dabar darbuotojams neaišku, kur yra riba tarp leidžiamo bendradarbiavimo ir pažeidimo.

TechCrunch nurodo, kad tyrėjai laišką adresavo Safety and Security Committee, Safety Advisory Group ir Mission Advisory Council. Tai rodo, kad ginčas keliamas ne tik kaip darbo santykių konfliktas, bet ir kaip saugumo valdymo klausimas.

OpenAI TechCrunch pateikė vidinę atmintinę, priskirtą tyrimų vadovui, kurioje sakoma, kad sprendimai nebuvo susiję su saugumo klausimų kėlimu. Bendrovės atstovas leidiniui taip pat teigė, kad tyrimas parodė netinkamo elgesio modelį ir aiškų tyrimų informacijos tvarkymo taisyklių pažeidimą.

Leidinio teigimu, OpenAI tiesiogiai neatsakė į klausimus, kokios konkrečios taisyklės esą buvo pažeistos. Bendrovė taip pat nepaaiškino, kaip saugomi darbuotojai, keliantys rizikos klausimus ar dirbantys su išoriniais vertintojais.

Ginčas vyksta tuo metu, kai didžiosios laboratorijos patiria spaudimą greitai leisti naujus modelius ir kartu įrodyti saugumo kontrolę.

Ši istorija dar neturi galutinio atsakymo, nes viešai pateiktos pusės nesutaria dėl faktų ir procedūrų. Toliau bus svarbu, ar OpenAI paaiškins, kokios taisyklės buvo pažeistos, ir kaip saugumo darbuotojai gali bendradarbiauti su išoriniais vertintojais.