OpenAI, Anthropic ir Google nori DI standartų institucijos
·
DI standartų institucija skamba sausai. Bet jei ją kurs OpenAI, Anthropic ir Google, tai jau ne biurokratinė smulkmena.
LRT skelbia, kad didžiausios DI bendrovės siekia sukurti standartų instituciją. Ji turėtų padėti apibrėžti, kaip vertinti DI sistemų saugumą ir kokius bendrus principus taikyti.
Iš pirmo žvilgsnio tai gerai. Bet čia yra ir senas klausimas: ar tie, kurie spaudžia greičio pedalą, gali patys susikurti stabdžių taisykles?
KODĖL STANDARTŲ REIKIA
DI rinka juda greičiau nei dauguma institucijų spėja perskaityti techninius dokumentus. Modeliai keičiasi, agentai jungiasi prie įrankių, vaizdo ir balso sistemos tampa įtikinamesnės.
Be bendrų testavimo taisyklių kiekviena įmonė gali sakyti, kad jos sistema saugi. Bet ką tai reiškia? Saugiai atsako į klausimą? Neatskleidžia duomenų? Neskatina žalos? Neveikia savavališkai?
Standartai padeda bent susitarti dėl matuoklio. Be matuoklio turime tik pažadus.
KUR SLYPI PAVOJUS
Kai standartus kuria tie patys žaidėjai, kuriems standartai bus taikomi, atsiranda interesų konfliktas. Tai nereiškia, kad idėja bloga. Reiškia, kad reikės skaidrumo.
Kas sėdės prie stalo? Ar bus akademikai, vartotojų teisių atstovai, valstybės institucijos, mažesnės įmonės? Ar sprendimai bus vieši?
Jei atsakymai migloti, institucija gali tapti gražiu plakatu. O DI saugumui plakato neužtenka.
EUROPOS KAMPAS
Europai ši tema ypač svarbi, nes čia jau veikia DI akto logika. Įmonėms reikės įrodyti ne tik tai, kad produktas veikia, bet ir tai, kad jis valdomas atsakingai.
Jei JAV technologijų milžinai kurs savo standartus, Europos institucijoms teks spręsti, kaip juos derinti su ES taisyklėmis.
Verslui tai reiškia vieną dalyką: DI atitiktis nebebus teorija. Ji taps kasdieniu darbo punktu.
FAQ
Kas yra DI standartų institucija?
Tai siūloma organizacija, kuri padėtų kurti bendrus DI sistemų testavimo, saugumo ir vertinimo principus.
Kodėl ją kuria didžiosios DI bendrovės?
Jos turi daugiausia techninių žinių ir spaudimą parodyti, kad DI saugumas nėra paliktas savieigai.
Kodėl tai svarbu Europai?
ES jau kuria DI reguliavimo sistemą, todėl pramonės standartai turės derėti su europinėmis taisyklėmis.
Šaltinis: LRT.
Jei DI įrankius naudojate versle, nepradėkite nuo politikos. Pradėkite nuo savo taisyklių: kas leidžiama, kas tikrinama, kas atsako.
