Google pasirašė slaptą DI sutartį su Pentagonu: 600 darbuotojų protestas ignoruotas

600 Google darbuotojų pasirašė atvirą laišką vadovui Sundar Pichai. Prašė vieno dalyko: neleisti kompanijos dirbtinio intelekto naudoti slaptose karinėse operacijose. Google atsakymas? Pasirašė sutartį su Pentagonu.

Kas nutiko ir kodėl tai svarbu

Balandžio 28 dieną paaiškėjo, kad Google sudarė slaptą susitarimą su JAV Gynybos departamentu. Pagal jį Pentagonas gaus prieigą prie Google DI technologijų „bet kokiam teisėtam tikslui”. Tai reiškia, kad konkrečios naudojimo ribos lieka neaiškios.

Tarp pasirašiusiųjų protestą buvo ne eiliniai programuotojai. Daugiau nei 20 direktorių, vyresniųjų direktorių ir viceprezidentų atvirai pridėjo savo vardus. Net DeepMind laboratorijos nariai prisijungė.

„Mes norime, kad DI būtų naudojamas žmonijos labui, o ne žalingais ar nežmoniškais būdais” – rašoma laiške. Darbuotojai konkrečiai nurodė kelis dalykus, kurių bijo: masinis sekimas, autonominiai ginklai, civilių profiliavimas.

Anthropic atsisakė. Google užėmė jų vietą

Šis žingsnis turi kontekstą. Prieš kelias savaites Anthropic – Claude kūrėjai – viešai atsisakė suteikti Pentagonui neribotą prieigą prie savo DI. Jie sakė: jokio masinio sekimo, jokių autonominių ginklų.

Pentagonas tokio atsakymo nelaukė. Anthropic buvo pavadinta „tiekimo grandinės rizika”. Kompanija padavė Gynybos departamentą į teismą.

Ir tada scenoje pasirodė Google. Pasiūlė savo Gemini modelį tokiomis sąlygomis, kokių Pentagonas norėjo.

Project Maven šmėkla

Kas seka Google istoriją, prisimena 2018-uosius. Tada kompanija dalyvavo Project Maven programoje, kurioje DI analizavo dronų vaizdo medžiagą Pentagonui. Darbuotojai sukilo. Google pasitraukė.

Praėjo 8 metai. Situacija kartojasi, bet šį kartą baigtis kitokia. Google, kuris ką tik investavo 40 mlrd. dolerių į Anthropic, dabar užima būtent tą vietą, kurią Anthropic atsisakė užimti.

Ironiška? Tikrai.

Ką reiškia „bet koks teisėtas tikslas”

Google bandė derėtis. Siūlė sutarties kalbą, kuri draustų naudoti Gemini masiniams sekimams ir autonominiams ginklams be žmogaus kontrolės. Pentagonas norėjo platesnės formuluotės: „visiems teisėtiems tikslams”.

Problema ta, kad slaptos operacijos pagal apibrėžimą yra neskaidrios. Darbuotojai tą ir pabrėžė savo laiške: „Slapti darbai pagal apibrėžimą yra neskaidrūs.” Jei nematai, ką daro, kaip patikrinsi ar laikosi taisyklių?

Platesnis vaizdas

Tai nėra tik Google problema. DI industrija šiuo metu investuoja šimtus milijardų ir valstybės nori dalies tos galios. JAV, Kinija, Europa – visos nori DI karinėje srityje.

Klausimas ne ar DI bus naudojamas kariuomenėje. Jis jau naudojamas. Klausimas – kokiomis taisyklėmis ir kas jas prižiūri.

Europa bando reguliuoti DI aktais. JAV eina kitu keliu – duoda kompanijoms laisvę ir žiūri kas bus.

Tau svarbu žinoti

Jei naudoji Google produktus, tavo duomenys ir toliau lieka atskirai nuo karinių projektų. Bent jau oficialiai. Bet pats faktas, kad viena didžiausių pasaulio technologijų kompanijų ignoruoja šimtų savo darbuotojų prašymą, rodo kryptį.

DI militarizacija nebėra klausimas „ar”. Tai klausimas „kiek”.

Ką apie tai galvoji? Ar technologijų kompanijos turi teisę atsisakyti dirbti su kariuomene?

DUK

Kas yra Google ir Pentagono DI sutartis?
Google sudarė susitarimą su JAV Gynybos departamentu, pagal kurį Pentagonas gaus prieigą prie Google DI technologijų slaptose karinėse operacijose. Sutartis leidžia naudoti DI „bet kokiam teisėtam tikslui”.

Kodėl Anthropic atsisakė dirbti su Pentagonu?
Anthropic nenorėjo leisti savo DI naudoti masiniams sekimams ir autonominiams ginklams. Pentagonas juos pavadino „tiekimo grandinės rizika”, o Anthropic padavė Gynybos departamentą į teismą.

Kuo tai skiriasi nuo Project Maven 2018 metais?
2018 metais Google darbuotojai protestavo prieš Project Maven ir kompanija pasitraukė. Šį kartą, nepaisant 600 darbuotojų protesto, Google pasirašė sutartį.