Anthropic pasamdė 15 krikščionių lyderių mokyti Claude moralės: kodėl DI kompanija kreipiasi į religiją

Kovo pabaigoje Anthropic pakvietė 15 krikščionių lyderių į savo San Francisko būstinę dviejų dienų viršūnių susitikimui. Tema: kaip mokyti Claude moralės.

Ne technikos. Ne saugumo. Moralės.

Washington Post pirmasis pranešė apie susitikimą. Dalyvavo katalikų ir protestantų dvasininkai, akademikai ir verslo žmonės. Vakarienių metu jie su Anthropic mokslininkais diskutavo apie tai, kaip Claude turėtų reaguoti į gedinčius žmones, savižudybės riziką, ir klausimą, ar DI gali būti laikomas „Dievo kūriniu”.

Kodėl būtent krikščionys

Anthropic sako, kad tai pirmasis iš daugelio susitikimų su skirtingų religijų ir filosofinių tradicijų atstovais. Bet kad pradėjo nuo krikščionių, kritiką sulaukė akimirksniu.

Kur musulmonai? Kur budistai? Kur pasaulietiniai etikai? Ankstesnis mūsų straipsnis jau aptarė šį įvykį, bet dabar paaiškėjo daugiau detalių.

Dalyviai, kalbėję su Washington Post, sakė, kad Anthropic susidomėjimas buvo nuoširdus, ne performatyvus. Brian Patrick Green, katalikų DI etikos dėstytojas Santa Clara universitete, liko įsitikinęs, kad kompanija rimtai.

Gilesnė problema

Claude jau turi „charakterio dokumentą”, kuris apibrėžia jo vertybes. Bet kai DI pradeda kalbėti su žmonėmis apie mirtį, prasmę ir tikėjimą, techninis dokumentas nepakanka.

Anthropic Project Glasswing rūpinasi kibernetiniu saugumu. Bet kas rūpinasi emociniu? Kai žmogus 3 val. nakties pasakoja savo problemas chatbotui, atsakomybė yra ne tik techninė.

DI kompanijos ilgai vengė moralės klausimų. Anthropic bent bando. Ar 15 krikščionių lyderių yra teisingas pradžios taškas? Diskutuotina. Bet bent jau kažkas klausia teisingų klausimų.