OpenAI prašo privalomų DI saugumo taisyklių: savireguliacijos neužteko

OpenAI DI saugumo taisyklės vėl atsidūrė dėmesio centre, tik šį kartą tonas kitoks.

Euronews rašo, kad OpenAI ragina kurti privalomas nacionalines DI saugumo taisykles. Tai ateina po GPT-6 Astra pristatymo ir kalbų apie kibernetinio saugumo rizikas.

Kitaip tariant: net tie, kurie stumia DI greitį, pradeda kalbėti apie stabdžius.

KODĖL TAI POSŪKIS

Ilgą laiką technologijų įmonės mėgo sakyti: leiskite mums reguliuotis patiems, mes geriausiai suprantame technologiją. Kartais tai tiesa. Bet kai produktas paveikia milijonus žmonių, vien pažado nebeužtenka.

Privalomos taisyklės reiškia, kad saugumas nebėra PR eilutė. Jis tampa tikrinamu reikalavimu, už kurį galima atsakyti.

DI rinkai tai nepatogu. Bet branda retai būna patogi.

EUROPA ČIA TURI SAVO KAMPĄ

Europa jau turi DI aktą ir skaitmeninių paslaugų taisykles. Bet didžiųjų modelių saugumas vis tiek juda greičiau nei institucijų grafikai.

Jei OpenAI pati sako, kad reikia privalomų taisyklių, Europos diskusijoje tai bus naudojama kaip argumentas: net rinkos lyderiai pripažįsta, kad savanoriškų pažadų mažai.

Klausimas tik vienas: ar taisyklės bus pakankamai konkrečios, kad veiktų, o ne tik gražiai skambėtų.

VERSLUI TAI REIŠKIA DAUGIAU DOKUMENTŲ

Įmonėms, kurios diegia DI, ateina paprasta realybė. Reikės žinoti, kokį modelį naudojate, kokiems duomenims, kas tikrina rezultatą ir ką darysite incidento atveju.

Tai gali erzinti. Bet tai geriau nei situacija, kai DI įrankis veikia visur, o atsakomybės nėra niekur.

Savireguliacija tinka hobiui. Versle reikia tvarkos.

FAQ

Ką siūlo OpenAI?

Euronews rašo, kad OpenAI ragina kurti privalomas nacionalines DI saugumo taisykles.

Kodėl tai svarbu?

Tai rodo, kad vien savanoriškų saugumo pažadų dideliems DI modeliams gali nebeužtekti.

Ką tai reiškia įmonėms?

Įmonėms reikės daugiau aiškumo apie naudojamus modelius, duomenis, tikrinimą, atsakomybę ir incidentų valdymą.

Šaltinis: Euronews Next.

Jei DI naudojate darbe, susirašykite bent vieną puslapį taisyklių. Ne dėl biurokratijos. Dėl ramybės, kai kas nors paklaus „kas atsakingas?“