Paaugliams ChatGPT griežtins informacijos apie ginklus ribojimus
OpenAI skelbia naujus ChatGPT ribojimus nepilnamečiams ir atsargesnį reagavimą į smurto požymius. Pirmąją bendruomenės saugumo ataskaitą žadama pateikti 2027 metų pradžioje.
ChatGPT paaugliams ribos praktinę informaciją apie ginklus ir apsaugos sistemas net tada, kai atskiras klausimas neatrodo susijęs su smurtiniu ketinimu. OpenAI spalio 30 dienos pranešime teigia, kad naujos apsaugos bus pradėtos diegti artimiausiomis savaitėmis, o jų veikimą bendrovė toliau koreguos.
Pasak OpenAI, ankstesnės taisyklės jau draudė padėti planuoti ar vykdyti smurtą ir ribojo pagalbą nepilnamečiams ieškant arba įsigyjant ginklus. Dabar numatomi platesni informacijos ribojimai, skirti sumažinti galimybę panaudoti iš pirmo žvilgsnio neutralius paaiškinimus realiai žalai padaryti.
Bendrovė atskirai keičia ir visiems naudotojams taikomas atsakymų apie anksčiau įvykdytus masinius išpuolius taisykles, nepriklausomai nuo klausiančiojo amžiaus ar motyvų. Jos pranešime minimi detalių apie naudotus ginklus, jų gavimą ir išpuolių padarinių palyginimus ribojimai, kad nebūtų didinamas užpuolikų žinomumas.
OpenAI rašo, kad pokalbiuose ir toliau bus galima nagrinėti įvykių poveikį aukoms bei bendruomenėms, smurto prevenciją ir įspėjamųjų požymių atpažinimą. Taigi bendrovė skiria bendrą įvykių supratimą nuo tokių praktinių ar atkuriamųjų detalių, kurios galėtų padėti pakartoti pavojingą elgesį.
Pranešime taip pat aprašomas atsargesnis reagavimas, kai nauja užklausa vertinama kartu su ankstesniuose pokalbiuose pastebėtais galimo smurto signalais ir kontekstu. Pasak OpenAI, net įprastai atrodantis klausimas gali būti vertinamas kitaip, jeigu ankstesni pokalbiai jau parodė grasinimų ar ketinimų požymių.
Bendrovė kuria galimybę automatiškai nutraukti pokalbį, kai sistema pastebi pasikartojantį susitelkimą į smurtą ar norą rimtai sužaloti kitą žmogų. Jei dėl tokių priežasčių būtų nutraukti keli pokalbiai, paskyra galėtų būti laikinai pristabdyta; OpenAI tai apibūdina kaip toliau tobulinamą apsaugos priemonę.
Pasak OpenAI, amžiaus nustatymo sistema nuolat vertina naujus naudojimo signalus ir prireikus perkelia naudotoją į jaunesniems nei 18 metų skirtą aplinką. Klaidingai nepilnamečiams priskirti suaugusieji galės patvirtinti savo amžių per partnerę Persona ir pašalinti papildomus paaugliams taikomus ribojimus.
Tėvams jau siūloma susieti paskyras ir valdyti saugumo nustatymus, o liepos mėnesį, pasak bendrovės, išplėsti pranešimai apie už smurtinę veiklą panaikintas paskyras. Dabar kuriami ir pranešimai apie laikiną pristabdymą dėl pasikartojančių smurto pokalbių, tačiau jų tiksli paleidimo data nepateikiama.
OpenAI pranešime skiriami automatiniai pokalbių ribojimai ir jau veikiantys tėvų saugumo pranešimai, kuriems tam tikrais atvejais naudojama specialistų peržiūra. Susietoms paskyroms pranešimai gali būti siunčiami dėl rimto savęs žalojimo pavojaus ir su valgymo sutrikimais siejamo elgesio, tačiau bendrovė nežada tėvams perduoti visų paauglio pokalbių.
OpenAI nurodo trečiąjį ketvirtį daugiau kaip 200 kartų perdavusi informaciją teisėsaugai apie grėsmes, bet nepateikia kiekvieno atvejo viešos baigties. Pirmąją anonimizuotais pavyzdžiais ir duomenimis pagrįstą bendruomenės saugumo ataskaitą bendrovė žada 2027 metų pradžioje, o vėliau ją atnaujins kas pusmetį.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
