OpenAI saugumo žmogus traukiasi: kultūros klausimas tapo rizika
·
OpenAI saugumo rizika šįkart ateina ne iš laboratorinio testo, o iš žmogaus, kuris dirbo įmonės viduje.
TechCrunch rašo, kad David Robinson, ilgai dirbęs su OpenAI saugumo ataskaitomis, pasitraukė ir viešai sukritikavo įmonės kultūrą. Jo mintis šiurkšti: bandymų ir klaidų laikui su galingais DI modeliais vietos lieka vis mažiau.
Tai nėra vien Silicio slėnio drama. Kai modeliai patenka į darbo įrankius, saugumo kultūra tampa klientų, darbuotojų ir reguliuotojų klausimu.
KODĖL PASITRAUKIMAS SVARBUS
Vienas žmogus išėjo iš darbo. Atrodytų, nieko naujo. Bet jei tas žmogus rašė saugumo dokumentus prie didžiųjų modelių paleidimų, jo signalas turi kitą svorį.
DI įmonėse spaudimas judėti greitai yra milžiniškas. Naujas modelis, naujas agentas, nauja funkcija, naujas partneris. Rinka ploja greičiui, bet saugumas dažnai prašo lėtesnio žingsnio.
Šita įtampa niekur nedings. Ji tik didės.
VERSLO PAMOKA
Įmonėms nereikia apsimesti, kad jos vertins OpenAI vidaus kultūrą geriau už pačius darbuotojus. Bet reikia suprasti, kad tiekėjo saugumas yra jūsų rizikos dalis.
Jei DI įrankis dirba su klientų duomenimis, vidiniais dokumentais ar kodu, klausimai turi būti konkretūs. Kas saugo duomenis? Kas mato užklausas? Kas atsako už incidentą? Kaip greitai galima išjungti prieigą?
Čia mažiau romantikos, daugiau sutarčių ir procesų. Nuobodu. Užtat po incidento norisi būtent nuobodžių, aiškių atsakymų.
SAUGUMAS KAIP ĮPROTIS
DI saugumas nėra viena politika PDF faile. Tai įprotis klausti prieš paleidžiant, o ne po to, kai kažkas nutiko.
Geras testas komandai: ar galite per penkias minutes pasakyti, kurie DI įrankiai turi prieigą prie jautrių duomenų? Jei ne, turite ne DI strategiją, o vilčių rinkinį.
Robinsono pasitraukimas primena paprastą dalyką. Kultūra matosi ne pranešimuose spaudai. Ji matosi tada, kai reikia rinktis tarp greičio ir atsargumo.
FAQ
Kas pasitraukė iš OpenAI?
TechCrunch rašo apie David Robinson, buvusį OpenAI saugumo ir politikos darbuotoją, prisidėjusį prie saugumo ataskaitų.
Ką jis kritikavo?
Jis viešai kritikavo DI laboratorijų saugumo kultūrą ir per greitą pasikliovimą bandymų bei klaidų procesu.
Kodėl tai aktualu įmonėms?
Įmonės, kurios naudoja DI su jautriais duomenimis, turi vertinti ne tik funkcijas, bet ir tiekėjo saugumo praktiką.
Šaltinis: TechCrunch.
Šiandien verta pasidaryti vieną mažą auditą: kokie DI įrankiai turi prieigą prie jūsų duomenų ir kas už tai atsakingas?
