Anthropic vadovas siūlo pristabdyti DI lenktynes: greitis jau tapo rizika
·
Anthropic DI saugumas vėl atsidūrė dėmesio centre, nes bendrovės vadovas Dario Amodei pasiūlė pristabdyti pažangiausių modelių lenktynes.
Skamba keistai, ar ne? Įmonė, kuri pati kuria vienus stipriausių DI modelių, sako: gal jau užtenka spausti gazą iki dugno.
Bet čia yra labai žemiška mintis. Kai visi bėga vien tik dėl to, kad kitas nebūtų pirmas, klaidos pradeda kainuoti daugiau nei praleista proga.
KĄ SIŪLO AMODEI
The Verge rašo, kad Amodei kalba apie planą „pace the frontier“ – kitaip tariant, sulėtinti pažangiausių DI modelių kūrimo tempą. Ne sustabdyti technologiją visam laikui, o sudėti aiškesnius stabdžius ten, kur pasekmės gali būti didelės.
Jo logika paprasta: jeigu modeliai tampa pajėgūs atlikti vis daugiau darbų, jiems reikia ne tik geresnių rezultatų testuose. Reikia ir taisyklių, kaip su tais rezultatais elgtis.
Čia kaip su galingu automobiliu. Smagu, kol kelias tiesus. Bet stabdžiai vis tiek turi veikti.
KODĖL VERSLUI TAI NE TEORIJA
Įmonėse DI jau jungiamas prie dokumentų, klientų duomenų, kodo, vidinių sistemų. Kai modelis tiesiog rašo tekstą, rizika viena. Kai jis padeda priimti sprendimus arba kviečia įrankius, žaidimas keičiasi.
Todėl saugumas nebėra laboratorijų filosofija. Tai klausimas, ar jūsų komanda žino, ką DI gali matyti, ką gali daryti ir kada žmogus privalo paspausti stabdį.
Daug vadovų dar klausia: „kurį įrankį pirkti?“ Geresnis klausimas šiandien: „kokias ribas mes jam uždėsime?“
GREITIS NĖRA STRATEGIJA
DI rinkoje visi nori būti pirmi. Modelis greitesnis. Kontekstas ilgesnis. Atsakymas gražesnis. Demo įspūdingesnis.
Bet realiame darbe laimi ne tas, kas pirmas įsidiegė. Laimi tas, kas moka naudoti be chaoso: su prieigomis, patikra, atsakomybe ir labai aiškiu „čia jau reikia žmogaus“ momentu.
Man čia patinka viena pamoka: brandi DI komanda ne ta, kuri viską leidžia. Brandi ta, kuri žino, kur sustoti.
FAQ
Ką pasiūlė Anthropic vadovas?
Dario Amodei pasiūlė sulėtinti pažangiausių DI modelių lenktynes ir daugiau dėmesio skirti saugumo kontrolei.
Kodėl DI lenktynių greitis kelia riziką?
Kuo galingesni modeliai, tuo daugiau žalos gali padaryti bloga prieiga, klaidingas veiksmas ar silpna patikra.
Ką įmonės gali daryti praktiškai?
Susirašyti DI naudojimo ribas, prieigų taisykles, žmogaus patvirtinimo vietas ir incidentų peržiūros tvarką.
Šaltinis: The Verge.
Jei DI jūsų komandoje jau naudojamas kasdien, pradėkite nuo paprasto klausimo: kur jam tikrai negalima veikti vienam? Daugiau praktikos apie tai yra MasterSprint programoje.
