Claude Fable 5 saugikliai: kai saugumas neturi stabdyti normalaus darbo
Anthropic atnaujino Claude Fable 5 biologijos saugiklius ir sumažino klaidingus perjungimus. Tai gera pamoka visiems DI produktų kūrėjams.
Šiame straipsnyje · 4 dalys
- Kas yra Fable 5? Tai Anthropic Claude modelių šeimos dalis, kuriai taikomi specialūs saugikliai jautresnėms užklausoms.
- Kiek sumažėjo biologijos klaidingų perjungimų? Anthropic nurodo maždaug 85 procentų sumažėjimą testuose.
- Ką tai reiškia vartotojams? Mažiau atvejų, kai teisėtas biologijos klausimas be reikalo nukreipiamas į mažiau pajėgų modelį.
Claude Fable 5 saugikliai yra tema, kuri iš pirmo žvilgsnio atrodo siaura. Biologijos užklausos, modelio perjungimai, klaidingi stop ženklai. Na, tikrai ne kiekvieno ryto kava.
Bet pamoka čia platesnė.
Anthropic rugpjūčio 7 d. paskelbė, kad atnaujino Fable 5 biologijos saugiklius. Tikslas – mažiau klaidingų situacijų, kai sistema perjungia vartotoją į mažiau pajėgų modelį dėl biologijos temos.
Kas buvo problema?
Biologija yra jautri sritis. Viena užklausa gali būti visiškai normali mokslinė ar edukacinė, kita – pavojinga. Todėl DI kūrėjai deda saugiklius. Ir gerai, kad deda.
Bėda prasideda tada, kai saugiklis per dažnai stabdo normalų darbą. Anthropic teigia, kad atnaujinimas testuose sumažino biologijos temų klaidingus perjungimus maždaug 85 procentais. Taip pat tikimasi mažiau bendrų perjungimų Claude.ai, Cowork, Claude Code ir platformoje.
Čia labai žmogiška problema: nori apsaugoti, bet nenori užrakinti durų kiekvieną kartą, kai žmogus nori įeiti į virtuvę.
Kodėl tai svarbu verslui?
DI įrankiai dažnai balansuoja tarp naudos ir rizikos. Jei saugikliai per silpni, gali nutikti blogų dalykų. Jei per stiprūs, žmonės įrankį meta lauk, nes jis trukdo dirbti.
Ypač tai aktualu medicinai, mokslui, teisei, finansams, kibernetiniam saugumui. Ten užklausos dažnai jautrios, bet teisėtos.
Verslui pamoka paprasta: geras DI produktas turi ne tik atsakyti. Jis turi protingai suprasti kontekstą.
Ką pasitikrinti savo įrankiuose?
Jeigu kuriate vidinį DI asistentą, matuokite ne tik klaidas, bet ir klaidingus blokavimus. Kiek kartų sistema pasakė „negaliu“, nors galėjo padėti? Kiek kartų žmogus turėjo eiti aplinkiniu keliu? Kiek kartų dėl to nustojo naudoti įrankį?
Čia dažnai nematoma metrika. Bet ji lemia įpročius.
Jei DI atrodo kaip užsispyręs vartų sargas, komanda ras kitą vartelį. Dažnai mažiau saugų.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
