ASCII smuggling grįžta: šlamšto siuntėjai perėmė DI atakų triuką

ASCII smuggling yra toks triukas, kurio paprastas žmogus laiške net nemato. Ekrane viskas atrodo švaru, bet tekste slepiasi nematomi Unicode simboliai, kuriuos sistema gali perskaityti kitaip.

Anksčiau apie tai daugiausia kalbėjome DI saugumo kontekste: prompt injection, paslėptos instrukcijos, agentai, kurie gauna ne tą komandą. Dabar Ars Technica rašo, kad tuo pačiu keliu pradėjo eiti šlamšto siuntėjai. Ir čia jau ne laboratorinis triukas, o kasdienė pašto dėžutės higiena.

NEMATOMAS TEKSTAS, MATOMA BĖDA

Triuko esmė paprasta: į tekstą įdedami simboliai, kurių žmogaus akis nemato arba kurie atrodo kaip nieko nereiškiantis tarpas. Filtrai, pašto sistemos ir DI įrankiai tą tekstą vis tiek gali apdoroti. Gaunasi keistas dvigubas gyvenimas: žmogus skaito vieną laišką, sistema mato kitą.

Tai primena lipduką ant durų, po kuriuo paslėptas kitas užrašas. Tu matai „sveiki atvykę“, o apsauga po tuo pačiu lipduku randa „įleisti be patikros“. Skamba juokingai, kol tai neatsiduria įmonės el. pašte.

Šlamšto siuntėjams tai patogu, nes galima bandyti apeiti filtrus, suskaldyti pavojingas frazes arba įterpti papildomą kontekstą ten, kur žmogus jo nepastebės. Kuo daugiau laiškų tikrina automatizuotos sistemos, tuo labiau tokie triukai tampa praktiški.

KUR ČIA DI?

DI įrankiai dažnai naudojami laiškams apibendrinti, rūšiuoti, vertinti riziką ar net paruošti atsakymą. Jei įrankis perskaito nematomą tekstą, jis gali būti paveiktas ne tuo, ką mato darbuotojas, o tuo, kas paslėpta laiško viduje.

Tai nėra signalas išjungti DI pašte. Bet tai signalas, kad DI agentai neturi būti paleisti vieni, ypač kai jie turi prieigą prie dokumentų, kontaktų ar mokėjimų. Filtras turi tikrinti ne tik nuorodas ir priedus, bet ir patį tekstą.

Įmonėms verta pridėti paprastą taisyklę: jeigu sistema gauna el. laišką iš išorės, ji pirmiausia turi išvalyti nematomus simbolius arba bent parodyti įspėjimą. Nuobodu? Taip. Bet saugumas dažnai toks ir būna.

KĄ DARYTI PRAKTIŠKAI

Pirmas žingsnis yra ne pirkti dar vieną stebuklingą įrankį, o pasitikrinti pašto apsaugos nustatymus. Ar filtrai normalizuoja Unicode tekstą? Ar saugumo komanda mato, kai laiške yra daug nematomų simbolių? Ar DI asistentas gauna tik išvalytą tekstą?

Antras žingsnis: neleidžiam DI agentui veikti pagal vieno laiško turinį be žmogaus patvirtinimo. Laiškas gali prašyti pakeisti sąskaitą, peradresuoti dokumentą ar paspausti nuorodą. Agentas gali padėti, bet finalinis mygtukas turi likti pas žmogų.

Šita istorija gera tuo, kad ji labai žemiška. Ne koks nors kosminis supermodelis pabėgo iš laboratorijos. Tiesiog nematomi simboliai laiške. Bet būtent tokios smulkmenos dažnai ir pramuša vartus.

FAQ

Kas yra ASCII smuggling?

Tai teksto slėpimo būdas naudojant žmogui nematomus arba sunkiai pastebimus Unicode simbolius, kuriuos programos vis tiek gali apdoroti.

Kodėl tai svarbu DI įrankiams?

DI sistemos gali perskaityti paslėptą tekstą ir priimti jį kaip kontekstą ar instrukciją, nors žmogus jo nemato.

Ar tai reiškia, kad DI pašte pavojingas?

Ne pats DI pavojingas, o nekontroliuojama prieiga. DI asistentams reikia išvalyto turinio ir aiškių veiksmų ribų.

Šaltinis: Ars Technica.

Jei jūsų komanda jau naudoja DI el. pašte ar dokumentuose, pradėkite nuo paprasto audito. Daugiau praktinių DI saugumo temų rasite DI Žiniose.