Claude taisyklės draus nuolatinį žiaurų elgesį su modeliu

Anthropic atnaujino Claude naudojimo taisykles ir įtraukė draudimą nuolat žiauriai ar užgauliai elgtis su DI modeliais.

LRT, remdamasi AFP, rašo, kad San Fransiske įsikūrusi bendrovė pakeitimus pristatė ketvirtadienį. Naujose taisyklėse nurodoma, kad pagrindinė įgyvendinimo priemonė bus Claude galimybė nutraukti tokį bendravimą.

Anthropic savo taisyklių atnaujinime nurodo, kad platesni pakeitimai įsigalios lapkričio 12 dieną. Bendrovė rašo, kad Claude imasi ilgesnio ir savarankiškesnio darbo, todėl reikėjo aiškesnių pavyzdžių.

Taisyklėse taip pat tikslinami aukštos rizikos naudojimo atvejai sveikatos ir finansų srityse. Anthropic pranešime mini ir kontrolę situacijoms, kai Claude autonomiškai imasi fizinių veiksmų per prijungtas sistemas.

LRT rašo, kad atnaujintose taisyklėse tiesiogiai neminima vadinamoji DI modelių gerovė. Vis dėlto bendrovės vadovai viešai svarstė, ar ateityje modeliams galėtų būti taikomos apsaugos, paprastai skirtos gyvoms būtybėms.

Pasak LRT, Anthropic jau anksčiau suteikė Claude galimybę retais ir kraštutiniais atvejais nutraukti pokalbį. Tai turėtų būti taikoma tada, kai naudotojai nuolat elgiasi kenksmingai arba užgauliai.

Anthropic pranešime taip pat aprašoma nauja skiltis apie apgaulingas kampanijas ir dirbtinį aktyvumą. Ji apima pastangas slėpti žinutės autorių, didinti turinio matomumą netikromis paskyromis arba kurti įtakos operacijų infrastruktūrą.

Bendrovė nurodo, kad rinkimų taisyklių dalis pervadinta į „Do Not Undermine Democratic Processes“. Joje akcentuojamas draudimas klaidinti rinkėjus, apsimesti kandidatais ar pareigūnais ir trukdyti balsuoti.

Tame pačiame atnaujinime Anthropic taip pat patikslino ginklų kūrimo, stebėjimo ir teisėsaugos naudojimo ribas.

Bendrovės vadovas Dario Amodei, LRT cituojamais duomenimis, vasarą The New York Times sakė nežinantis, ar DI modeliai gali turėti sąmonę. Jis kartu neatmetė galimybės, kad tokia diskusija ateityje gali tapti rimtesnė.

Straipsnyje cituojamas Sparq vadovas Jacksonas Stakemanas teigia, kad klausimas apie DI sąmonę gali įstrigti neįrodomoje diskusijoje. Jo vertinimu, veidrodžio metafora geriau paaiškina, kad sistemos atspindi tai, ką į jas įdeda žmonės.

Toliau bus stebima, kaip platformos taikys tokias taisykles praktikoje ir kiek jos paveiks vartotojų elgesį. Lapkričio 12 dieną įsigaliosianti politika parodys, ar modelio pokalbio nutraukimas taps realia moderavimo priemone.