OpenAI pristatė „Frontier Governance Framework“: ko neatliko vyriausybės ir ką tai reiškia DI ateiciai

OpenAI paskelbė „Frontier Governance Framework”, ir tai yra didesnė naujiena nei atrodo iš pirmo žvilgsnio.

Ne dėl to, kad tai dar vienas PDF iš didelės korporacijos. O dėl to, kad tai pirmasis realus ženklas, jog DI reguliavimo vairas persikelia iš vyriausybių rankų tiesiai į kompanijų rankas.

Reguliavimo problema, kurią iki šiol niekas nesprendė

Kiek laiko jau kalbame apie DI reguliavimą? Metai. Keli metai. Konferencijos, ES direktyvos, Kongreso klausymai. Ir viskas? Keletas dokumentų, kuriuos perskaito tik advokatai.

OpenAI gegužės 28-ąją paskelbė dokumentą, kuris parodo, jei vyriausybės nepajėgia sukurti aiškių taisyklių, pačios DI kompanijos jas sukurs.

Ar tai gerai? Ar blogai? Priklauso nuo to, iš kurios pusės žiūri.

Kas yra „Frontier Governance Framework”?

Paprasčiau: tai oficiali OpenAI taisyklių knyga, kuri aiškina, ką jie daro, kad jų dirbtinis intelektas netaptų ginklu.

Dokumentas tiesiogiai reaguoja į du konkrečius teisinius reikalavimus: Kalifornijos „Transparency in Frontier AI Act”, JAV valstija, kuri pirmoji pradėjo rimtai reguliuoti DI, ir ES AI akto praktikos kodeksą, Europos reikalavimą bendrojo naudojimo DI kūrėjams.

Skamba sausi. Bet toliau, įdomiau.

Ką tiksliai aprėpia šis dokumentas?

OpenAI išskyrė penkias kritines rizikos zonas, ir kiekviena jų yra rimtesnė nei atrodo:

Kibernetinės atakos. Kaip neleidžiama, kad ChatGPT ar kiti OpenAI modeliai taptų įsilaužimo į sistemas įrankiu.

CBRN rizikos. Kaip užtikrinama, kad dirbtinis intelektas nepadėtų kurti cheminių, biologinių, radiologinių ar branduolinių ginklų.

Manipuliacija. Kaip modeliai apsaugomi nuo naudojimo masinei dezinformacijai ar žmonių apgaudinėjimui.

Kontrolės praradimas. Pati svarbiausia dalis, kaip užtikrinama, kad DI liktų valdomas ir neveiktų prieš žmonių interesus.

Ir dar vienas dalykas: išoriniai ekspertai. Tai reiškia, kad ne tik OpenAI komanda tikrina save, bet nepriklausomi specialistai turi teisę peržiūrėti saugumo praktikas. Bent jau taip parašyta dokumentuose.

Ką tai reiškia tau?

Tiesiogiai, nieko, ką pajustum rytoj ryte. ChatGPT nesikeičia. Tavo darbas nesikeičia.

Bet ilgesniu laikotarpiu tai yra signalas. Jei didžiausios DI kompanijos pradeda rašyti savo valdymo taisykles, tai reiškia dvi galimybes.

Pirma: jos rimtai žiūri į rizikas. Ir tai gerai. Antra: jos siekia apibrėžti taisykles PRIEŠ tai padarys vyriausybės. O tai jau yra strateginis žaidimas, ne altruizmas.

Prisimeni, kaip Britanija ir Australija praėjusią savaitę pasirašė DI saugumo paktą? Arba kaip Anthropic su savo „Project Glasswing” rado tūkstančius saugumo spragų? Tai nėra atsitiktiniai įvykiai. Visa DI industrija dabar masiškai demonstruoja, kad gali valdyti save pati.

Skeptikas manyje sako: kas tikrina, ar jie laikosi savo pačių taisyklių? Geras klausimas. Kol kas, praktiškai niekas.

Kodėl dabar?

Kelios priežastys sutapo vienu metu.

OpenAI neseniai padavė konfidencialius IPO dokumentus, kuriuose vertinimas siekia trilijono dolerių. Kai tu biržoje, reguliuotojų klausimų skaičius išauga geometriškai.

Be to, Demis Hassabis perspėjo, kad AGI gali ateiti jau 2029-aisiais. Kai pasaulio geriausi DI mokslininkai sako tokius dalykus viešai, reguliuotojai pasibunda.

Taigi šis dokumentas yra ne filantropija. Tai business protection.

Ar to pakanka?

Čia aš turėčiau pasakyti „taip” arba „ne”. Bet tiesa yra ta, kad abu atsakymai vienu metu teisingi.

Viena nuomonė: bent kažkas. Bent skaidrumas. Bent aiškiai pasakyta, nuo ko saugoma, o ne tik marketingo frazės apie „atsakingą DI”.

Kita nuomonė: savireguliacija paprastai veikia iki pirmo rimto incidento. Po to ateina tikri įstatymai, tikros baudos, tikra priežiūra.

OpenAI pažadėjo, kad dokumentas bus nuolat atnaujinamas, augant modelių galimybėms, gerėjant vertinimo metodams, keičiantis reguliavimo aplinkai. Tai bent jau sąžininga pripažinti, kad tai yra darbas, kuris niekada nesibaigia.

Ką stebėti toliau

• Ar ES reguliuotojai priims šį dokumentą kaip atitiktį AI aktui, ar reikalaus daugiau
• Ar kitos DI kompanijos (Anthropic, Google DeepMind, Meta) paskelbs panašius dokumentus
• Ar nepriklausomų ekspertų peržiūra bus reali, ar simbolinė

Tikra DI reguliavimo revoliucija dar tik prasideda. Šis dokumentas yra ne pabaiga, tai pirmoji rimta pastraipa.

DUK apie OpenAI Frontier Governance Framework

Kas yra OpenAI Frontier Governance Framework?

Tai oficialus OpenAI saugumo ir valdymo dokumentas, aprašantis, kaip kompanija valdo rizikas, susijusias su pažangiais DI modeliais. Atitinka Kalifornijos ir ES DI teisės reikalavimus.

Kodėl OpenAI paskelbė šį dokumentą?

Reaguojant į Kalifornijos „Transparency in Frontier AI Act” ir ES AI akto praktikos kodeksą, ir strategiškai siekiant apibrėžti taisykles prieš ateisiant griežtesniam išoriniam reguliavimui.

Kokios rizikos aprėpiamos dokumente?

Kibernetinės atakos, CBRN rizikos (cheminiai, biologiniai, radiologiniai, branduoliniai ginklai), manipuliacija ir kontrolės praradimo scenarijai.

Ar OpenAI pats save tikrina?

Dokumentas numato išorinių ekspertų priežiūrą, tačiau nepriklausomas tikrinimo mechanizmas dar nėra visiškai apibrėžtas viešai.

Kaip tai palies eilinį ChatGPT naudotoją?

Tiesiogiai, niekaip. Ilgesniu laikotarpiu tai reiškia saugesnius, labiau reguliuojamus DI modelius ir mažesnę tikimybę, kad kažkas piktnaudžiaus sistema.

Domina DI reguliavimas ir saugumas? Skaityk, kodėl Anthropic dabar vertinama 900 mlrd. dolerių, ir kaip saugumas tampa pagrindiniu DI industrijos konkurenciniu pranašumu.