OpenAI ir Anthropic nori riboti DI vertintojų viešus tekstus
Reuters per Techmeme pranešė, kad OpenAI ir Anthropic siekia daugiau kontrolės, ką gali skelbti išoriniai DI vertintojai.
OpenAI ir Anthropic siekia daugiau kontrolės, ką išoriniai DI vertintojai gali skelbti apie jų modelius. Reuters spalio 13 dieną per Techmeme pranešė, kad bendrovės tai aiškina komercinių paslapčių apsauga.
Šis ginčas svarbus, nes nepriklausomi vertinimai tapo vienu iš pagrindinių būdų tikrinti didžiųjų modelių rizikas. Jei laboratorijos gali smarkiai riboti publikavimą, visuomenė ir reguliuotojai mato mažiau nepatogių rezultatų.
Pasak Reuters, OpenAI ir Anthropic nerimauja, kad išoriniuose vertinimuose gali nutekėti jautri informacija apie modelius, saugumo metodus ar būsimus produktus. Tokia logika suprantama konkurencijos požiūriu, tačiau ji susiduria su saugumo skaidrumo poreikiu.
Išoriniai vertintojai paprastai gauna prieigą prie modelių prieš platesnį išleidimą arba dirba su specialiomis testavimo sąlygomis. Jų darbas leidžia patikrinti, ar sistema nesukuria pavojingų instrukcijų, neklaida vartotojų ir neperžengia nustatytų saugumo ribų.
Reuters aprašyta įtampa rodo platesnę DI rinkos problemą: laboratorijos nori patikimumo antspaudo, bet ne visada nori viešos kontrolės. Tai ypač jautru tuo metu, kai modeliai naudojami programavimui, tyrimams, finansams ir vidinėms įmonių sistemoms.
Reguliuotojams toks ginčas gali tapti argumentu reikalauti aiškesnių taisyklių dėl nepriklausomų auditų. Europos DI akto logika taip pat remiasi rizikos vertinimu, todėl ribotos publikacijos gali apsunkinti priežiūrą ir pasitikėjimą.
Įmonėms ši naujiena svarbi renkantis modelius ne vien pagal kainą ar testų lenteles. Jei vertinimo sąlygos neaiškios, sunkiau suprasti, kokios rizikos buvo tikrintos ir kokios išvados liko už viešumo ribų.
Reuters minima kontrolė ypač jautri todėl, kad OpenAI ir Anthropic viešai pristato saugumą kaip konkurencinį pranašumą. Kai tos pačios įmonės derasi dėl publikavimo ribų, pirkėjams reikia klausti, ar neigiami vertinimai gali būti atidėti, sušvelninti arba visai nepaskelbti.
Vertintojų darbas paprastai apima ne tik bendrus pokalbių testus, bet ir bandymus išprovokuoti pavojingą elgesį. Tokie rezultatai naudingi saugumo bendruomenei, nes leidžia palyginti skirtingų laboratorijų pažadus su realiu modelių elgesiu.
Jei leidžiama skelbti tik laboratorijoms patogias išvadas, rinka gauna silpnesnį signalą apie riziką. Tai gali ypač pakenkti mažesnėms įmonėms, kurios neturi savo DI saugumo komandų ir remiasi išoriniais auditais.
Toliau bus svarbu, ar laboratorijos susitars su vertintojais dėl taisyklių, kurios apsaugo paslaptis, bet nepaslepia rizikų. Priešingu atveju nepriklausomas DI saugumo vertinimas gali tapti dar viena priklausoma rinkodaros grandimi.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
