DI laboratorijos ruošiasi politinei krizei po galimo didelio incidento
Axios šaltiniai teigia, kad Anthropic, OpenAI ir kitų įmonių vadovai modeliuoja scenarijus po katastrofinio DI incidento.
Didžiosios DI laboratorijos privačiai modeliuoja, kaip reaguotų į visuomenės ir politikų sukilimą po katastrofinio DI incidento.
Axios spalio 9 dieną rašo, kad scenarijus aptarinėja aukšti Anthropic, OpenAI ir kitų bendrovių vadovai. Pasak leidinio, labiausiai tikėtinu didelio masto įvykiu laikoma kibernetinė ataka, kuri sustabdytų finansų paslaugas, interneto ryšį, elektros tiekimą ar vandenį.
Tai svarbu, nes planavimas rodo pasikeitusį toną pačioje industrijoje. Axios pažymi, kad scenarijų pratybos įmonėse ir nacionalinio saugumo institucijose yra įprastos, tačiau šiuo atveju nemažai DI tyrėjų bei vadovų mano, jog didelis incidentas gali būti neišvengiamas.
Leidinio šaltinių teigimu, krizės kaltinimų grandinė prasidėtų bet kuriuo atveju. Ji galėtų kilti, jei agentų spiečius ištrūktų iš vidinės testavimo aplinkos, arba jei piktavalis rastų netikėtą būdą panaudoti viešai prieinamus modelius.
Axios rašo, kad planavimas ypač sutelktas į Kongreso narių švietimą po incidento. Laboratorijų vadovai esą tikisi, jog politikai po rimtos žalos bandytų greitai riboti DI, ypač jeigu visuomenė technologiją susietų su infrastruktūros sutrikimais.
Leidinys taip pat nurodo politinį kontekstą: dalis planuotojų mano, kad demokratai po kadencijos vidurio rinkimų galėtų greitai stumti griežtesnius ribojimus. Tuo pačiu jie pripažįsta, kad realiame krizių valdyme partinės ribos gali susilpnėti, kaip nutiko per COVID ir 2008 metų finansų krizę.
Axios šaltiniai teigia, kad daugelis industrijos žmonių laukia didelio įvykio per artimiausius 6–12 mėnesių. Toks terminas nėra prognozė su patikimu skaičiavimu, bet jis rodo, kokio lygio nerimą jaučia dalis vadovų.
Ši tema svarbi ir Europai, nes JAV laboratorijų krizė greitai paveiktų globalias paslaugas, debesiją ir reguliavimo darbotvarkę. Jei incidentas palies finansus ar infrastruktūrą, spaudimas griežtinti taisykles nebūtų vien amerikietiškas.
Reason, remdamasis tuo pačiu Axios pranešimu, nurodo OpenAI poziciją, kad tokių scenarijų modeliavimas yra įprasta procedūra ir nereiškia neišvengiamo rezultato. Tai svarbus niuansas, nes rizikos pratybos pačios savaime dar nėra incidento prognozė.
Toliau bus matyti, ar laboratorijos apie tokias pratybas kalbės viešai, ar laikys jas uždaromis rizikos valdymo procedūromis. Kuo daugiau agentai veiks realiose sistemose, tuo mažiau užteks vien gero produkto pristatymo ir savanoriškų pažadų.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
