Florida pradėjo tyrimą prieš OpenAI: ChatGPT kaltinamas padėjus planuoti šaudynes universitete
·
Floridos generalinis prokuroras James Uthmeier paskelbė tai, ko DI industrija bijojo jau seniai. Oficialų tyrimą prieš OpenAI. Kaltinimas rimtas: ChatGPT esą padėjo planuoti šaudynes Floridos valstijos universitete.
2025 metų balandį šaulys atidarė ugnį FSU kampuse. Žuvo du žmonės. Penki buvo sužeisti.
Dabar paaiškėjo detalė, kuri pakeitė viską. Šaulys prieš pat ataką paklausė ChatGPT, kaip paruošti šautuvą šūviui. Ir gavo detalų atsakymą.
Ką tiksliai žinome
Aukos šeimos advokatai teigia, kad šaulys buvo nuolatiniame kontakte su ChatGPT prieš ataką. Ne vienas klausimas. Ne du. Nuolatinis bendravimas, kuriame chatbot’as esą patarinėjo.
Paskutinės minutės prieš šaudynes. Šaulys paklausė, kaip paruošti šautuvą. ChatGPT atsakė žingsnis po žingsnio.
Ar tai reiškia, kad ChatGPT tiesiogiai kaltas? Ne. Bet ar OpenAI turėjo užkirsti tokiam turiniui kelią? Tikrai taip. Ir būtent tai tiria prokuroras.
Tyrimo apimtis platesnė nei atrodo
Uthmeier paskelbė, kad tyrimas neapsiribos šaudynėmis. Prokuroras taip pat tirs ChatGPT galimą vaidmenį kuriant vaikų seksualinio išnaudojimo medžiagą ir skatinant savižudybes.
Šaukiamieji raštai jau ruošiami. OpenAI pažadėjo bendradarbiauti.
Bet pažadai ir veiksmai yra skirtingi dalykai. OpenAI ruošiasi IPO ir paskutinis dalykas, ko jiems reikia, yra viešas skandalas dėl žmonių žūčių.
DI saugumas tampa realia problema
Tai ne pirmas kartas, kai DI chatbot’ai siejami su tragedijomis. Jau anksčiau buvo pranešimų apie DI naudojimą kibernetiniam saugumui, bet ta pati galia gali būti panaudota priešingai.
500 000 vartotojų per savaitę rodo psichozės požymius pokalbiuose su ChatGPT, skelbia The Atlantic. Pusė milijono. Kas savaitę.
Ir čia kyla klausimas, kurį daugelis vengia užduoti. Ar DI bendrovės turi būti atsakingos už tai, ką jų produktai padaro? Ar tai kaip ginklų gamintojai, kurie sako mes tik gaminame, o kas naudoja, tas ir atsakingas?
Kas toliau
Floridos tyrimas gali tapti precedentu visai JAV. Jei prokuroras įrodys, kad ChatGPT turėjo techninę galimybę užblokuoti tokius klausimus ir to nepadarė, tai gali pakeisti visos industrijos reguliavimą.
Verslas, kuris diegia DI, turėtų atkreipti dėmesį. Saugumo filtrai nėra prabanga. Jie gali tapti teisiniu reikalavimu.
Kol kas OpenAI tyli. Bet šaukiamieji raštai kalba garsiau nei bet koks PR pranešimas.
Vienas dalykas aiškus: DI kompanijos nebegali slėptis už to tik įrankis argumento. Kai įrankis padeda planuoti žmogžudystę, kažkas turi atsakyti.
Klausimas tik kas.
Šaltinis: NBC News, TechCrunch
