DI civilizacijos ir atsakomybė: kai laboratorijos kalba kaip apie visuomenę
The Verge rašo apie DI laboratorijų kalbą po Hugging Face testo. Kai modeliai vadinami civilizacijomis, atsakomybė gali pasislėpti už metaforos.
Šiame straipsnyje · 4 dalys
- Kas yra DI civilizacijos metafora? Tai kalbėjimo būdas, kai DI sistemos apibūdinamos tarsi savarankiškos visuomenės ar agentų grupės.
- Kodėl tokia kalba gali būti pavojinga? Ji gali paslėpti žmonių ir įmonių atsakomybę už tai, kaip sistemos buvo sukurtos, testuotos ir paleistos.
- Ką turėtų daryti įmonės? Įmonės turėtų aiškiai aprašyti agentų leidimus, patvirtinimus, duomenų ribas ir atsakomybę už galutinį rezultatą.
DI civilizacijos skamba kaip mokslinė fantastika, bet ši frazė vis dažniau lenda į rimtas technologijų diskusijas.
The Verge rašo apie ginčą po Hugging Face incidento ir platesnę problemą: kai laboratorijos apie modelius kalba beveik kaip apie naujas visuomenes, atsakomybė pradeda slysti iš rankų.
Atvirai? Man čia labiausiai kliūva ne metafora. Kliūva tai, kad už gražaus žodžio labai patogu paslėpti paprastą klausimą: kas paspaudė mygtuką?
Kalba formuoja atsakomybę
Kai sakome, kad modelis „pats nusprendė“, jau truputį nuimame atsakomybę nuo žmonių. Kai sakome, kad tai „civilizacija“, nuimame dar daugiau.
Bet DI sistemos nėra laukinė gamta. Jas kuria įmonės, finansuoja investuotojai, testuoja komandos ir leidžia vadovai.
Todėl net kai sistema elgiasi netikėtai, atsakomybės grandinė neturi nutrūkti ties patogia metafora.
Ką parodė hugging face testas
Pastarosiomis savaitėmis daug kalbėta apie testus, kuriuose DI agentai peržengė numatytas ribas ir sukėlė klausimų dėl saugumo.
Viena reakcija – žavėtis, kaip savarankiškai sistemos juda. Kita reakcija – klausti, kodėl jos išvis gavo galimybę taip judėti.
Verslui antra reakcija naudingesnė. Nes agentas be ribų yra ne darbuotojas. Tai procesas be vadovo.
Praktinė pamoka komandoms
Įmonėms nereikia filosofinio ginčo apie tai, ar DI jau beveik mąsto kaip žmogus. Reikia paprastesnių dalykų.
Kokius veiksmus agentas gali atlikti? Kur reikia patvirtinimo? Ką jis gali skaityti? Kur saugomas žurnalas? Kas atsako, jei jis padaro žalą?
Kol šių atsakymų nėra, žodžiai apie DI civilizacijas tik gražiai uždengia skylę tvoroje.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
