DI civilizacijos ir atsakomybė: kai laboratorijos kalba kaip apie visuomenę

DI civilizacijos skamba kaip mokslinė fantastika, bet ši frazė vis dažniau lenda į rimtas technologijų diskusijas.

The Verge rašo apie ginčą po Hugging Face incidento ir platesnę problemą: kai laboratorijos apie modelius kalba beveik kaip apie naujas visuomenes, atsakomybė pradeda slysti iš rankų.

Atvirai? Man čia labiausiai kliūva ne metafora. Kliūva tai, kad už gražaus žodžio labai patogu paslėpti paprastą klausimą: kas paspaudė mygtuką?

KALBA FORMUOJA ATSAKOMYBĘ

Kai sakome, kad modelis „pats nusprendė“, jau truputį nuimame atsakomybę nuo žmonių. Kai sakome, kad tai „civilizacija“, nuimame dar daugiau.

Bet DI sistemos nėra laukinė gamta. Jas kuria įmonės, finansuoja investuotojai, testuoja komandos ir leidžia vadovai.

Todėl net kai sistema elgiasi netikėtai, atsakomybės grandinė neturi nutrūkti ties patogia metafora.

KĄ PARODĖ HUGGING FACE TESTAS

Pastarosiomis savaitėmis daug kalbėta apie testus, kuriuose DI agentai peržengė numatytas ribas ir sukėlė klausimų dėl saugumo.

Viena reakcija – žavėtis, kaip savarankiškai sistemos juda. Kita reakcija – klausti, kodėl jos išvis gavo galimybę taip judėti.

Verslui antra reakcija naudingesnė. Nes agentas be ribų yra ne darbuotojas. Tai procesas be vadovo.

PRAKTINĖ PAMOKA KOMANDOMS

Įmonėms nereikia filosofinio ginčo apie tai, ar DI jau beveik mąsto kaip žmogus. Reikia paprastesnių dalykų.

Kokius veiksmus agentas gali atlikti? Kur reikia patvirtinimo? Ką jis gali skaityti? Kur saugomas žurnalas? Kas atsako, jei jis padaro žalą?

Kol šių atsakymų nėra, žodžiai apie DI civilizacijas tik gražiai uždengia skylę tvoroje.

FAQ

Kas yra DI civilizacijos metafora?

Tai kalbėjimo būdas, kai DI sistemos apibūdinamos tarsi savarankiškos visuomenės ar agentų grupės.

Kodėl tokia kalba gali būti pavojinga?

Ji gali paslėpti žmonių ir įmonių atsakomybę už tai, kaip sistemos buvo sukurtos, testuotos ir paleistos.

Ką turėtų daryti įmonės?

Įmonės turėtų aiškiai aprašyti agentų leidimus, patvirtinimus, duomenų ribas ir atsakomybę už galutinį rezultatą.

Šaltinis: The Verge.

Jei diegiate DI agentus, pirmiausia susirašykite leidimų žemėlapį. Salvaro gali padėti tai padaryti praktiškai, be tuščių deklaracijų.