Anthropic DI politika: kodėl stipriems modeliams siūlo stabdžius
Anthropic paskelbė DI politikos pasiūlymus, skirtus sparčiai stiprėjantiems modeliams ir ekonomikos pokyčiams.
Šiame straipsnyje · 6 dalys
- Ką siūlo Anthropic? Daugiau testavimo, nepriklausomų vertinimų, saugumo reikalavimų ir galimybę stabdyti pavojingus diegimus.
- Ar tai liečia paprastus verslus? Netiesiogiai taip, nes tiekėjų taisyklės ir prieigos gali keistis.
- Nuo ko pradėti įmonėje? Nuo aiškios DI naudojimo ir duomenų kėlimo politikos.
DI politika skamba kaip techninis terminas. Bet kai pažiūri praktiškai, čia yra labai žemiškas klausimas: kiek darbo darome rankomis tik todėl, kad niekas neprisėdo sutvarkyti proceso?
Anthropic paskelbė DI politikos pasiūlymus pažangiems modeliams. Pagrindinė mintis paprasta: jeigu modeliai stiprėja greičiau nei institucijos spėja reaguoti, reikia naujų stabdžių.
Man tokiose naujienose visada įsijungia mažas vidinis buhalteris. Ne tas, kuris skaičiuoja sąskaitas, o tas, kuris klausia: kiek tai kainuos, kas prižiūrės ir kur gali lūžti?
Kas nutiko
Dokumente siūloma, kad labai didelių pajėgumų DI kūrėjai turėtų testuoti modelius, skelbti rizikos santraukas, dirbti su nepriklausomais vertintojais ir turėti stiprias saugumo programas. Kai kuriais atvejais valdžia turėtų galėti blokuoti pavojingą diegimą.
Man čia labai primena automobilį. Gali džiaugtis varikliu, bet jei stabdžiai silpni, greitis tampa ne pasiekimu, o problema.
Kodėl tai svarbu
Anthropic išskiria biologinę, kibernetinę, kontrolės praradimo ir automatizuotų DI tyrimų riziką. Tai ne kasdienis chatbotų naudojimas. Tai labai galingų sistemų valdymas.
DI jau nebe vien langelis, į kurį įmetame tekstą. Jis jungiasi prie įrankių, moka kviesti servisus, gali veikti keliais žingsniais ir pradeda liesti tikrus verslo pinigus. Čia romantika baigiasi. Prasideda tvarka.
Ką tai reiškia verslui
Lietuvos įmonėms ši tema atrodo tolima tik iš pirmo žvilgsnio. Kai tiekėjai pradės keisti prieigas, saugumo reikalavimus ir modelių naudojimo taisykles, tai ateis iki pirkimų, teisės ir IT skyrių.
- sekti tiekėjų saugumo dokumentus
- nekelti kritinių procesų į neaiškius modelius
- turėti modelių naudojimo politiką
- aiškiai aprašyti, kas leidžiama darbuotojams
Praktiškas žingsnis: pasidaryti vieno puslapio taisykles, kokius duomenis galima kelti į DI įrankius, o kokių – ne.
Kur pasislėpusi rizika
Rizika – galvoti, kad reguliavimas yra tik valdžios reikalas. Kai procesas sugriūna dėl netinkamo DI naudojimo, atsakomybė lieka įmonės viduje.
Blogiausia DI klaida dažnai neatrodo kaip klaida. Ji ateina gražiai parašytu sakiniu, mandagiu tonu ir labai užtikrintu veidu. Todėl verslui reikia ne tik įrankių, bet ir įpročio tikrinti.
Ką pasidaryti šią savaitę
Šią savaitę susitarkite dėl trijų duomenų kategorijų: leidžiama, reikia patvirtinimo, draudžiama kelti į DI.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
