Anthropic pakvietė 15 krikščionių lyderių patarti, kaip mokyti Claude moralės

Anthropic padarė tai, ko niekas nesitikėjo. Pakvietė 15 krikščionių lyderių į savo būstinę San Franciske ir paklausė: kaip turėtų elgtis Claude?

Du dienas katalikų kunigai, protestantų teologai ir akademikai sėdėjo su Anthropic inžinieriais. Diskutavo apie gedėjimą, savižudybės riziką ir tai, ar DI gali būti vadinamas Dievo kūriniu.

Ne, tai ne satira.

Apie ką kalbėjo

Pagrindiniai klausimai buvo praktiški. Kaip Claude turėtų reaguoti, kai žmogus rašo apie norą nusižudyti? Kaip guosti gedintį žmogų? Ar chatbot’as turėtų turėti nuomonę apie religiją?

Santa Clara universiteto DI etikos profesorius Brian Patrick Green dalyvavo susitikime. Taip pat Brendan McGuire, airių kilmės katalikų kunigas, kuris prieš kunigystę dirbo technologijų sektoriuje.

Anthropic atstovas paskelbė, kad planuoja konsultuotis ir su kitų religijų bei filosofinių tradicijų atstovais.

Kodėl krikščionys pirmi

Tai geras klausimas. Ir jis jau sukėlė kritiką. Kodėl ne musulmonų, žydų ar budistų lyderiai? Kodėl ne pasaulietiniai etikos ekspertai?

Anthropic sako, kad tai tik pradžia. Bet pradžia su krikščionimis Silicio slėnyje, kur religija nėra populiari tema, yra savaime įdomus pasirinkimas.

Anthropic jau daro drąsius žingsnius kibernetinio saugumo srityje. Dabar bando tai daryti ir etikoje.

DI moralė nėra paprasta

Problema yra ta, kad moralė nėra universali. Kas vienai kultūrai yra teisinga, kitai gali būti netinkama. Ir DI modelis, kuris tarnauja šimtams milijonų žmonių skirtingose šalyse, negali būti sukonfigūruotas pagal vienos grupės vertybes.

Bet kažką daryti reikia. Anthropic MCP jau turi 97 mln. įdiegimų. Claude naudoja milžiniška auditorija. Ir kiekvienas pokalbis apie savižudybę, gedėjimą ar tikėjimą yra potenciali krizė.

Geriau klausinėti ir kartais suklysti, nei ignoruoti problemą.

Ką tai reiškia DI ateičiai

Tai precedentas. Pirmą kartą didelė DI kompanija oficialiai konsultuojasi su religiniais lyderiais dėl savo produkto moralės. Kitos kompanijos tikriausiai stebės, kaip tai veikia.

Jei esi skeptikas, tai gali atrodyti kaip PR akcija. Jei esi tikintis žmogus, tai gali atrodyti kaip svarbus žingsnis. Realybė tikriausiai kažkur per vidurį.

Bet vienas dalykas tikras: DI moralės klausimai nebeišnyks. Jie tik augs.