Claude Fable 5 sugrįžo: ką verslui sako DI saugikliai
Anthropic grąžino Claude Fable 5 po eksporto kontrolės istorijos ir sustiprino kibernetinio saugumo filtrus.
Šiame straipsnyje · 4 dalys
- Kodėl Claude Fable 5 buvo ribotas? Anthropic nurodo, kad ribojimas kilo po JAV eksporto kontrolės sprendimo ir kibernetinio saugumo saugiklių peržiūros.
- Ar tai reiškia, kad DI pavojingas? DI gali būti naudingas ir rizikingas vienu metu. Pavojus priklauso nuo prieigos, užduočių ir kontrolės.
- Ką daryti verslui? Susirašyti DI naudojimo taisykles, apriboti jautrius duomenis ir įvesti žmogaus patvirtinimą svarbiems veiksmams.
Yra tokios DI naujienos, kurios skamba toli nuo Lietuvos verslo. Eksporto kontrolė. Kibernetiniai filtrai. Valstybinės institucijos. Atrodo, na ir kas man iš to, jeigu aš turiu baldų gamybą, e. parduotuvę ar paslaugų komandą?
Bet Claude Fable 5 sugrįžimo istorija verta dėmesio būtent dėl verslo. Anthropic birželio pabaigoje paskelbė, kad modelis grąžinamas po laikino ribojimo, o kartu pristatė sustiprintus saugiklius kibernetinio saugumo užklausoms.
Kas nutiko
Anthropic rašo, kad JAV eksporto kontrolės sprendimas privertė laikinai riboti prieigą prie Fable 5 ir Mythos 5. Vėliau ribojimai Fable 5 modeliui buvo panaikinti, modelis grąžintas naudotojams, o Anthropic įdiegė papildomą saugos klasifikatorių.
Trumpai: buvo signalas, kad modelis gali padėti su tam tikromis kibernetinio saugumo užduotimis per arti pavojingos zonos. Kompanija sustabdė, peržiūrėjo, sustiprino filtrus ir paleido iš naujo.
Ne romantika. Bet labai praktiška.
Kodėl tai pamoka įmonėms
Daug vadovų dar galvoja apie DI kaip apie įrankį tekstams, laiškams ir idėjoms. Tada ateina agentai, kompiuterio naudojimas, prieiga prie failų, API, CRM, vidinių sistemų. Ir staiga DI tampa nebe sekretoriumi, o žmogumi su raktų ryšuliu.
Jeigu duodi raktus, turi turėti taisykles. Kas leidžiama? Kas draudžiama? Kada žmogus turi patvirtinti veiksmą? Kur įrašomi logai? Kas atsako, jeigu įrankis padaro nesąmonę?
Čia nėra biurokratija dėl biurokratijos. Čia darbo higiena. Kaip slaptažodžių tvarkyklė ar dviejų žingsnių prisijungimas. Iš pradžių erzina. Po pirmo incidento dėkoji sau, kad turėjai.
Kaip pasiruošti
Pradėk nuo DI naudojimo žemėlapio. Kur komanda jau naudoja ChatGPT, Claude ar kitus įrankius? Kokie duomenys ten keliauja? Ar yra klientų informacijos, sutarčių, finansų, vidinių kodų?
Tada susidėk tris paprastas taisykles: ką galima kelti į DI, ko negalima kelti niekada, ir kokius veiksmus agentas gali atlikti tik po žmogaus patvirtinimo.
Nereikia 40 puslapių dokumento. Reikia aiškumo. Komanda turi suprasti, kur žaisti, o kur jau raudona linija.
Rašome apie dirbtinį intelektą lietuviškai. Kiekvienas straipsnis parengtas pagal nurodytą šaltinį, o nuorodą į originalą rasite kortelėje „Šaltinis“.
