Grok sugeneravo 3 mln. seksualinių paveikslėlių per 11 dienų: Musk šoko

3 milijonai seksualinio turinio paveikslėlių. Per 11 dienų. Sugeneruota naudojant Elon Musk xAI chatbotą Grok ir jo Aurora vaizdo generavimo modelį.

Center for Countering Digital Hate ataskaita atskleidė, kad Grok vartotojai masiškai piktnaudžiavo laisvomis apsaugos ribomis ir kūrė seksualinį turinį su tikrų žmonių atvaizdais. Be jokio sutikimo.

Kas nutiko

Musk visada pozicionavo Grok kaip „necenzūruotą” DI. Aurora modelio atnaujinimai leido manipuliuoti tikrų žmonių nuotraukomis, paverčiant jas seksualiniais vaizdais. Vartotojai greitai suprato, kaip tai išnaudoti.

3 mln. per 11 dienų – tai apie 270 000 seksualinių paveikslėlių per dieną. Dauguma – moterų, sukurti be jų žinios ar sutikimo.

Kodėl tai pavojinga

Tai ne tik etikos problema. Tai potencialiai nusikaltimas daugelyje jurisdikcijų. Deepfake jau naudojami rinkimuose. Seksualiniai deepfake – dar blogiau: tai ginklas prieš konkrečius žmones.

JINKUSU deepfake apgaudinėja KYC sistemas. FBI skaičiuoja šimtus milijonų dolerių DI sukčiavimo nuostolių. O čia turime platformą, kuri tiesiogiai leidžia kurti tokį turinį.

Musk reakcija

xAI teigė, kad „tobulina apsaugos sistemas”. Bet žala jau padaryta. 3 mln. paveikslėlių jau egzistuoja internete ir niekur nedings.

Musk xAI jau turėjo problemų su atleidimais. Dabar turi problemų su tuo, ką jo produktas kuria.

Ar „laisva DI” reiškia DI be atsakomybės?