Trumpo administracija svarsto privalomą DI patikrą: žvalgybos agentūros prieš Prekybos departamentą

Šiandien gali įvykti kažkas, ko dar nebuvo — Trumpo administracija svarsto pasirašyti DI vykdomąjį įsakymą (executive order), kuris reikalautų privalomų patikrų prieš išleidžiant naujus DI modelius visuomenei.

Tai dramatiška staigmena. Dar prieš metus ši pati administracija demonstratyviai atšaukė Bideno prezidento DI saugumo įsakymą. Dabar — 180 laipsnių posūkis.

Kas pasikeitė

Katalizatorius — Anthropic modelis „Mythos”. NSA jau kurį laiką slapta jį testuoja ir atrado, kad Mythos gali labai greitai surasti bei išnaudoti dešimtmečius egzistavusias kodo spragas — tas, kurių niekas iki šiol nepastebėjo.

Dar daugiau: Mythos demonstravo gebėjimą automatizuoti kibernetines atakas tokiu greičiu ir mastu, kurio žmonės tiesiog nepasiekia. NSA pats jau naudojo Mythos, kad patikrintų pažeidžiamybes vyriausybinėje Microsoft programinėje įrangoje — kol kitos agentūros neturėjo prieigos.

Tai ir sukėlė ginčą Vašingtone.

Kovos dėl valdžios

Dabar Baltieji rūmai sprendžia, kas galėtų prižiūrėti šias privalomas DI patikras: Prekybos departamentas ar žvalgybos bendruomenė?

Prekybos departamentas (per NIST) jau yra pasirašęs susitarimus su Anthropic ir OpenAI dėl modelių testavimo prieš išleidimą. Šią savaitę prie jų prisijungė Google DeepMind, Microsoft ir Elon Musko xAI.

Bet NSA ir kitos žvalgybos agentūros teigia, kad prekybinis departamentas nėra tinkamas šiam darbui. Kongresmenų žodžiai tai labai tiesiai: „Būtų beprotybė neduoti žvalgybos agentūroms ankstyvos prieigos prie DI modelių.”

Konfliktas esminis — kas kontroliuoja, tas ir formuoja taisykles.

Ką reiškia privaloma patikra

Pagal siūlomą schemą, kompanijos kaip Anthropic, OpenAI, Google ar Meta privalėtų pateikti savo modelius vyriausybei patikrinti prieš viešą išleidimą. Tai panašu į FDA vaistų patvirtinimą — kaip yra nurodęs Nacionalinės ekonominės tarybos vadovas Kevinas Hassett.

Teoriškai tai skamba logiškai. Praktiškai kyla klausimų:

• Kiek laiko užtruks patikra? Savaitė? Mėnesis? Metai?
• Ką daryti su atvirojo kodo modeliais, kurių kontroliuoti beveik neįmanoma?
• Ar Kinijos kompanijos laikysis? (Akivaizdu, kad ne.)
• Kas apsaugos patikros procese gaunamus duomenis apie modelius?

Kibernetinio saugumo ekspertai primena: DI grėsmės tikros ir rimtos. Bet biurokratinis reguliavimas, jei netinkamai sukonstruotas, gali tiesiog sulėtinti amerikietiškus modelius — ne kinų.

Google jau sutiko

Praėjusią savaitę paaiškėjo, kad Google, Microsoft ir xAI sutiko leisti CAISI (JAV saugumo technologijų institutui) atlikti jų modelių „pre-deployment” vertinimus. Tai ne tas pats, kas privaloma valstybinė cenzūra — bet žingsnis ta linkme.

Google jau anksčiau demonstruotų pavyzdžių, kai DI padeda atskleisti saugumo spragas. Šis susitarimas reiškia, kad technologijų milžinai bent jau principiškai sutinka su tam tikra priežiūra.

Ką tai reiškia Europai ir Lietuvai

Jei JAV priima privalomą DI patikrą, tai sukels domino efektą. Europa, kuri jau turi DI Aktą, taps ne vieninteliu reguliuotoju. JAV standartai gali tapti de facto pasauliniu standartu — kaip kartais nutinka su SEC finansiniais reikalavimais.

Lietuvos verslui tai labiau stebėjimų, o ne veiksmų reikalas. Bet žinoti kontekstą svarbu — nes DI modeliai, kuriuos tu naudoji, ateityje gali praeiti vyriausybines patikras arba ne.

Kas bus toliau

Anthropic, kurios Mythos modelis tapo šios diskusijos centru, kol kas viešai nekomentuoja. OpenAI taip pat tyli. Bet ir viena, ir kita kompanija jau yra pasirašiusios susitarimus dėl savanoriško testavimo — vadinasi, tikrai nusimato, kad tai taps privaloma.

Vykdomasis įsakymas gali būti pasirašytas bet kurią dieną. Jei tai atsitiks — turėsime naują DI reguliavimo epochą, kurioje žvalgybos agentūros turės žodį, kokius modelius matome ir kokius — ne.