Amazon Bedrock gaudo DI phishingą: sukčiai jau rašo per gražiai

Svarbiausia

• Kas yra DI phishingas? Tai sukčiavimo laiškai ar žinutės, kurių tekstą padeda kurti generatyvinis DI.
• Kodėl jis pavojingesnis? Nes gali būti geriau parašytas, labiau personalizuotas ir greičiau kuriamas dideliais kiekiais.
• Kaip gintis? Derinti techninius filtrus, darbuotojų mokymus ir aiškias patvirtinimo taisykles jautriems veiksmams.

DI phishingas skamba kaip techninis terminas. Bet kai pažiūri praktiškai, čia yra labai žemiškas klausimas: kiek darbo darome rankomis tik todėl, kad niekas neprisėdo sutvarkyti proceso?

AWS parodė, kaip Amazon Bedrock gali padėti aptikti DI sugeneruotus phishing laiškus. Ir čia yra nemaloni vieta: blogi laiškai darosi nebe blogai parašyti. Jie darosi mandagūs, tvarkingi ir labai įtikinami.

Man tokiose naujienose visada įsijungia mažas vidinis buhalteris. Ne tas, kuris skaičiuoja sąskaitas, o tas, kuris klausia: kiek tai kainuos, kas prižiūrės ir kur gali lūžti?

Kas nutiko

AWS aprašo sprendimą, kuris analizuoja el. laiškų požymius ir padeda saugumo komandoms atskirti DI sugeneruotą socialinės inžinerijos turinį. Tikslas – greičiau rasti pavojingus laiškus ir mažinti rankinį triukšmo rūšiavimą.

Anksčiau phishingą dažnai išduodavo keista lietuvių kalba, šleivi tarpai ir „brangus kliente“ tipo sakiniai. Dabar sukčius gali pasisamdyti DI už kelis centus. Ot patogumas. Tik ne mums.

Kodėl tai svarbu

DI phishingas svarbus todėl, kad jis pigina sukčių darbą. Daugiau variantų, geresnė kalba, daugiau personalizacijos ir mažiau akivaizdžių klaidų.

DI jau nebe vien langelis, į kurį įmetame tekstą. Jis jungiasi prie įrankių, moka kviesti servisus, gali veikti keliais žingsniais ir pradeda liesti tikrus verslo pinigus. Čia romantika baigiasi. Prasideda tvarka.

Ką tai reiškia verslui

Verslui tai reiškia, kad vien darbuotojų mokymų nebeužtenka. Reikia filtrų, procesų, patvirtinimų ir aiškių taisyklių, ką daryti gavus netikėtą prašymą dėl pinigų ar prisijungimų.

• tikrinti mokėjimų prašymus kitu kanalu
• naudoti laiškų saugumo filtrus
• mokyti komandą atpažinti ne klaidas, o kontekstą
• registruoti incidentus ir mokytis iš realių pavyzdžių

Pavyzdys paprastas: vadovo vardu ateina laiškas dėl skubaus pavedimo. Jei procesas sako „pirma skambutis, tada veiksmas“, DI tekstas praranda dalį galios.

Kur pasislėpusi rizika

Rizika – ieškoti senų signalų naujame puolime. Jei laukiate tik gramatinių klaidų, galite praleisti laišką, kuris atrodo geriau nei pusė vidinės komunikacijos.

Blogiausia DI klaida dažnai neatrodo kaip klaida. Ji ateina gražiai parašytu sakiniu, mandagiu tonu ir labai užtikrintu veidu. Todėl verslui reikia ne tik įrankių, bet ir įpročio tikrinti.

Ką pasidaryti šią savaitę

Šią savaitę su komanda paimkite tris realius įtartinus laiškus ir aptarkite ne tik tekstą, bet ir situaciją: kodėl būtent dabar, kodėl toks prašymas, kodėl toks kanalas.