Sunkūs DI klausimai: Anthropic primena, kad pasitikėjimas neatsiranda iš demo
Anthropic paskelbė iniciatyvą, kuria kviečia visuomenę kelti sunkius klausimus apie DI naudą, rizikas ir taisykles.
Šiame straipsnyje · 6 dalys
- Kodėl tai svarbu verslui? Nes DI diegimas be pasitikėjimo dažnai stringa darbuotojų baimėse ir neaiškiose taisyklėse.
- Kaip kalbėti apie rizikas? Praktiškai: kas atsako, kokie duomenys leidžiami, kur reikalinga žmogaus peržiūra.
sunkūs DI klausimai nėra dar viena graži DI etiketė. Po ja slepiasi paprastas klausimas: kur žmogui šiandien per daug rankinio darbo, per daug spėlionių arba per mažai laiko normaliai patikrai?
Anthropic liepos 9 d. paskelbė iniciatyvą „Inviting hard questions“. Kompanija kelia klausimus apie tai, kas turėtų nustatyti DI taisykles, ar DI gali pagerinti vaikų ateitį, ar jis didina pavojus ir ar gali padėti mokslui.
Aš į tokias naujienas žiūriu per labai žemišką filtrą. Ne „kaip skamba pristatyme“, o „ką su tuo darytų komanda pirmadienį ryte“.
Kartais atsakymas mažas. Viena lentelė. Vienas procesas. Vienas patikrinimas prieš išsiunčiant klientui. Bet ten DI ir pradeda veikti ne kaip triukas, o kaip įrankis.
Kas nutiko
Anthropic rašo, kad žmonės vienu metu mato DI naudą ir turi rimtų baimių: darbo vietos, kūrybos vertė, žmogaus savarankiškumas, ryšiai, prasmė ir modelių patekimas į netinkamas rankas. Iniciatyvos tikslas – geriau suprasti visuomenės klausimus ir rodyti pažangą viešojo intereso kryptimis.
DI pristatymuose dažnai būna toks keistas optimizmo kvapas. Viskas bus greičiau, pigiau, protingiau. O tada po renginio prie kavos žmogus tyliai paklausia: „O tai mano darbas dar bus reikalingas?“ Šitas klausimas niekur nedingsta nuo gražios skaidrės.
Kodėl tai svarbu
Sunkūs DI klausimai reikalingi todėl, kad be jų atsiranda tuščias tikėjimas arba tuščia panika. Vieni sako „viskas nuostabu“, kiti sako „viską uždrausti“. Realybėje reikia mokėti laikyti abi mintis vienu metu: DI gali duoti vertės ir gali pridaryti žalos.
DI rinka dabar pilna pažadų. Agentai, modeliai, saugumas, atmintis, automatizavimas. Skamba rimtai. Bet viską galima nuleisti ant žemės: ar žmogus greičiau randa informaciją, priima geresnį sprendimą ir padaro mažiau klaidų?
Jei taip – verta tęsti. Jei ne – turime dar vieną demonstraciją, kuri graži iki pirmo realaus kliento, mokinio ar vadovo klausimo.
Ką tai reiškia verslui
Verslui tai tiesiogiai aktualu. Darbuotojai nepriims DI vien todėl, kad vadovas nupirko licencijas. Jie nori suprasti, kas bus su jų darbu, duomenimis, vertinimu ir atsakomybe.
- kas tvirtina DI sukurtą darbą
- kokie duomenys negali keliauti į įrankius
- kaip matuojama nauda darbuotojui
- kur žmogus turi teisę pasakyti stop
DI mokymuose verta pradėti ne nuo promptų sąrašo, o nuo baimių lentos. Tegul komanda surašo, ko bijo. Tada daug lengviau atskirti realias rizikas nuo miglos galvoje.
Kur gali paslysti
Rizika – ignoruoti nepatogius klausimus, kol jie grįžta pasipriešinimu. Jei komanda jaučia, kad DI stumiamas per jėgą, net geras įrankis taps svetimu kūnu.
DI klaida dažnai neatrodo kaip klaida. Ji ateina tvarkingu sakiniu, mandagiu tonu ir labai ramiu veidu. Todėl ribos, peržiūra ir logai nėra biurokratija. Tai darbo higiena.
Ką pasidaryti šią savaitę
Per kitą komandos susitikimą užduokite vieną klausimą: „Kur DI mums padėtų, bet kartu kelia nerimą?“ Užrašykite atsakymus be ginčo. Čia prasideda normalus diegimas.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
