Kalifornijos DI išjungimo mygtukas: politika prašo avarinio stabdžio

DI išjungimo mygtukas skamba kaip filmo detalė. Bet Kalifornijoje tai jau politinis klausimas.

Gubernatorius Gavinas Newsomas, kaip rašo The Verge, spaudžia dėl idėjos, kad pavojingas DI modelis turėtų turėti aiškų avarinį stabdį. Ne poetine prasme. Procedūriškai: kas stabdo, kada stabdo, kokiais kriterijais.

Man čia įdomiausia ne pati frazė. Įdomu tai, kad valstijos nebenori laukti, kol federalinė valdžia susitars dėl vieno plano.

KODĖL TAI NEBE TEORIJA

DI rizikos tema ilgai gyveno tarp tyrėjų, laboratorijų ir konferencijų. Daug žodžių, daug modelių, daug hipotetinių scenarijų.

Dabar klausimas keliasi į įstatymus. Jei sistema elgiasi pavojingai, jei ji padeda apeiti saugiklius, jei jos kūrėjai patys nebesupranta ribų – kas turi teisę paspausti stop?

Verslui tai svarbu dėl labai paprastos priežasties. Jei reguliavimas ateis per valstijas, taisyklės gali skirtis pagal rinką. Viena tvarka Kalifornijoje, kita Teksase, trečia Europoje. Smagu? Nelabai.

AVARINIS STABDIS NĖRA PANIKA

Kai kuriems „kill switch“ skamba kaip baimės pardavimas. Bet geriau žiūrėti ūkiškai.

Gamyboje yra avariniai mygtukai. Automobiliuose yra stabdžiai. Finansų sistemose yra prekybos sustabdymo mechanizmai. Niekas nesako, kad dėl to nereikia gamyklų, automobilių ar biržų.

Klausimas ne ar DI reikia uždrausti. Klausimas – ką darome, kai sistema pradeda veikti ne taip, kaip buvo žadėta.

KĄ PASIIMTI ĮMONĖMS

Jei įmonė jau diegia DI agentus, verta ne laukti įstatymo, o turėti savo mažą avarinį planą.

Kas gali išjungti integraciją? Kur laikomi prisijungimai? Ar agentas gali siųsti laiškus, keisti duomenis, inicijuoti mokėjimus? Ar yra žurnalas, kuriame matosi jo veiksmai?

Skamba nuobodžiai. Bet būtent nuobodžios taisyklės dažniausiai išgelbsti, kai visi kiti bėga gesinti gaisro.

FAQ

Kas yra DI išjungimo mygtukas?

Tai procedūra arba techninis mechanizmas, leidžiantis sustabdyti pavojingą DI sistemą, kai ji peržengia sutartas ribas.

Kodėl apie tai kalba Kalifornija?

Kalifornijoje yra daug DI įmonių, todėl valstijos politikai nori greitesnių saugumo taisyklių, nelaukdami federalinio sprendimo.

Ar tai aktualu Lietuvos verslui?

Taip, nes didžiųjų DI platformų taisyklės ir produktai dažnai formuojami JAV, o vėliau paveikia ir Europos klientus.

Šaltinis: The Verge.

Jei DI agentai jau jungiasi prie jūsų procesų, verta pradėti nuo leidimų ir stabdymo taisyklių. MasterSprint padeda tai susidėti praktiškai.