Claude Mythos aptiko tūkstančius zero-day pažeidžiamumų: Anthropic atsisako modelį paleisti viešai

Anthropic sukūrė DI modelį, kuris autonomiškai rado 17 metų senumo pažeidžiamumą FreeBSD operacinėje sistemoje. Ir 27 metų senumo klaidą OpenBSD. Ir tūkstančius kitų kritinių saugumo spragų kiekvienoje pagrindinėje operacinėje sistemoje ir naršyklėje.

Tada kompanija nusprendė jo nepaleisti. Pirmą kartą DI industrijos istorijoje kūrėjas atsisakė viešinti modelį, nes jis per pavojingas.

Project Glasswing: slaptas saugumo konsorciumas

Vietoj viešo paleidimo Anthropic sukūrė Project Glasswing. Tai konsorciumas, kuris apima AWS, Apple, Cisco, CrowdStrike, Google, JPMorgan Chase, Microsoft, NVIDIA ir Palo Alto Networks. Šios kompanijos gauna prieigą prie Mythos, kad galėtų ištaisyti aptiktas spragas savo produktuose.

Daugiau nei 99 proc. rastų pažeidžiamumų vis dar nepataisyti. Tai reiškia, kad kol skaitai šį straipsnį, tavo kompiuterio operacinė sistema greičiausiai turi saugumo spragų, kurias Mythos jau žino.

JK saugumo institutas patvirtino

Britų AISI (AI Safety Institute) nepriklausomai įvertino Mythos gebėjimus ir patvirtino: modelis tikrai turi stiprias ofenzyvines kibernetinio saugumo galimybes. Tai ne marketingo pareiškimas, o nepriklausomo vertintojo išvada.

Anthropic MCP jau pasiekė 97 mln. įdiegimų, o Claude manija užvaldė industriją HumanX konferencijoje. Bet Mythos yra visiškai kitas žaidimas. Tai ne chatbotas, kuris padeda rašyti laiškus. Tai įrankis, kuris gali rasti pažeidžiamumus, apie kuriuos saugumo ekspertai net nežinojo dešimtmečius.

Dilema, kuri keičia viską

Tai iškelia klausimą, apie kurį DI industrija kalbės dar ilgai. Ar DI kompanija turi teisę nuspręsti, kad jos produktas per pavojingas visuomenei? Ar tai atsakingas elgesys, ar cenzūra?

Anthropic jau anksčiau pasamdė 15 krikščionių lyderių mokyti Claude moralės. Dabar jie nusprendė, kad kai kurių dalykų geriau nemokyti niekam. Bent jau kol kas.

JT ką tik suformavo pirmąją DI mokslinę komisiją. Mythos atvejis turėtų būti pirmas klausimas jų darbotvarkėje.

Ką tu manai: ar kompanija turėjo paleisti modelį atvirai, kad kiekvienas galėtų apsisaugoti? Ar vis dėlto geriau, kad jis lieka uždarytas?