JAV DI reguliacijos ginčas: politikai sako, kad pramonė perlenkia

JAV DI reguliacijos ginčas per savaitgalį gavo labai aiškų politinį atsaką: ne visi nori spausti stabdį.

The Verge rašo, kad Donaldas Trumpas ir Atstovų Rūmų pirmininkas Mike’as Johnsonas skeptiškai žiūri į DI įmonių perspėjimus lėtinti pažangiausių modelių kūrimą. Jų baimė paprasta: jei Amerika sustos, Kinija važiuos toliau.

Ir čia prasideda ne filosofija, o labai praktiškas konfliktas. Kiek saugumo yra būtina, o kur saugumas tampa baime prarasti lenktynes?

KUR UŽSIDEGĖ GINČAS

Prieš tai Anthropic vadovas Dario Amodei pasiūlė „pace the frontier“ kryptį – sulėtinti pažangiausių DI modelių tempą ir susidėti aiškesnius saugiklius. Jam viešai pritarė ir dalis kitų DI rinkos veidų.

Trumpas, pagal The Verge cituojamą Financial Times, sakė norintis išlaikyti JAV pranašumą prieš Kiniją. Johnsonas CNN eteryje perspėjo, kad skubotas ribojimas gali tapti nacionalinio saugumo rizika.

Kitaip tariant, vienoje pusėje yra laboratorijų nerimas dėl modelių galios. Kitoje – politikų baimė pralošti geopolitinę kovą.

KĄ IŠ TO PASIIMTI VERSLUI

Verslui ši istorija aktuali ne dėl Vašingtono dramų. Ji aktuali todėl, kad tas pats konfliktas vyksta ir įmonėse: komanda nori naudoti DI greitai, vadovai nori rezultato, saugumas prašo ribų.

Blogiausias variantas – pulti į vieną kraštą. Arba viską leisti, nes „reikia neatsilikti“. Arba viską uždrausti, nes „per pavojinga“.

Brandesnis kelias yra labai ūkiškas: aiškūs leidimai, jautrių duomenų taisyklės, žmogaus patvirtinimas ten, kur sprendimas gali brangiai kainuoti.

GREITIS BE RIBŲ NĖRA PLANAS

DI lenktynės turi vieną pavojingą savybę: visi žiūri į tą, kuris bėga greičiausiai. Tada lengva pamiršti, kad finišo linija dar nėra aiški.

Jei modelis tik rašo tekstą, rizika viena. Jei jis gauna prieigą prie kodo, klientų duomenų ar vidinių įrankių, jau reikia kitokio mąstymo.

Man čia paprasta pamoka: greitis gerai tik tada, kai yra stabdžiai. Be jų net geriausias variklis tampa problema.

FAQ

Kodėl JAV DI reguliacija kelia ginčą?

Nes dalis DI įmonių prašo lėtinti pažangiausių modelių lenktynes, o dalis politikų bijo, kad tai sustiprins Kiniją.

Ką sakė Mike’as Johnsonas?

Jis perspėjo, kad skubotas DI ribojimas gali tapti nacionalinio saugumo rizika, jei JAV praras tempą prieš Kiniją.

Kokia pamoka įmonėms?

DI reikia naudoti greitai, bet su ribomis: prieigomis, duomenų taisyklėmis ir aiškiomis žmogaus patvirtinimo vietomis.

Šaltinis: The Verge.

Jei komandoje DI jau naudojamas kasdien, pradėkite nuo vieno klausimo: kur jam negalima veikti vienam? Praktinius atsakymus dėliojame MasterSprint programoje.