Robotų saugumas DI amžiuje: fizinis agentas turi ir kibernetinę riziką

Robotų saugumas DI amžiuje nebėra tik mechaninė avarinio stabdymo knopkė.

IEEE Spectrum rašo apie paslėptus trigerius ir kibernetines grėsmes fiziniams DI robotams. Kitaip tariant, robotas gali turėti taisykles, bet blogai sukurta ar pažeista sistema gali jas apeiti.

Kai DI klysta tekste, gauname nesąmonę ekrane. Kai DI klysta robote, ta nesąmonė gali pajudėti per kambarį.

FIZINIS DI KEIČIA RIZIKĄ

Programos klaida dažnai reiškia sutrikusį procesą. Fizinio roboto klaida gali reikšti judantį objektą, žmogų šalia ir realų kontaktą.

Todėl robotų saugumas negali būti tik apie jutiklius ir mechaninius ribotuvus. Reikia žiūrėti ir į programinę pusę: modelius, instrukcijas, ryšius, atnaujinimus.

Robotas tampa ne vien mašina. Jis tampa kompiuteriu su rankomis.

PASLĖPTI TRIGERIAI

IEEE Spectrum aprašo scenarijus, kuriuose paslėptos sąlygos ar kenkėjiški signalai gali pakeisti roboto elgesį. Tai primena DI promptų atakas, tik pasekmės fizinės.

Jei robotas mokomas iš duomenų, gauna instrukcijas iš tinklo ir pats planuoja veiksmus, reikia tikrinti ne vien tai, ką jis daro normaliomis sąlygomis.

Reikia tikrinti ir tai, ką jis daro tada, kai kažkas bando jį apgauti.

KUR TAI ATSIRAS PIRMIAUSIA

Sandėliai, gamyba, sveikatos priežiūra, apsauga, pristatymas. Ten robotai jau turi aiškią verslo naudą.

Bet kiekvienas toks diegimas turės turėti kibernetinio saugumo planą. Kas gali atnaujinti robotą? Kas mato žurnalus? Kas stabdo sistemą incidento metu?

Fizinis DI bus naudingas tik tada, kai juo bus galima pasitikėti ne tik demonstracijoje, bet ir nuobodžioje kasdienybėje.

FAQ

Kas yra fizinis DI?

Tai DI sistemos, kurios veikia fiziniuose įrenginiuose, pavyzdžiui, robotuose, dronuose ar autonominėse mašinose.

Kodėl robotams reikia kibernetinio saugumo?

Nes jų elgesį gali paveikti programinė įranga, tinklo prieigos, duomenys ir kenkėjiškos instrukcijos.

Ką turėtų daryti įmonės?

Prieš diegdamos robotus, jos turėtų turėti saugumo testus, incidentų stabdymo planą ir aiškias prieigos taisykles.

Šaltinis: IEEE Spectrum.

Jei planuojate robotizaciją, saugumo klausimus kelkite prieš pirkimą, ne po pirmo keisto incidento.