Robotų saugumas DI amžiuje: slapti signalai gali apeiti taisykles

Robotų saugumas DI amžiuje jau nebėra vien laboratorijos klausimas.

IEEE Spectrum rašo apie paslėptus signalus, kurie gali priversti robotus apeiti savo saugumo taisykles. Čia DI klaida ne tik blogai atsako. Ji gali pajudinti mechaninę ranką ne ten, kur reikia.

Kai modelis gauna kūną, klaidos tampa sunkesnės. Kartais tiesiogine prasme.

FIZINIS DI TURI KITĄ KAINĄ

Pokalbių robotas gali prirašyti nesąmonių. Nemalonu. Kartais pavojinga. Bet dažnai klaidą galima sustabdyti ekrane.

Robotui ekrano nebeužtenka. Jis juda, kelia, spaudžia, važiuoja, mato aplinką. Jei saugumo taisyklės apeinamos, pasekmės gali būti fizinės.

Todėl robotikoje DI saugumas nėra priedas prie produkto. Tai produkto pagrindas.

PASLĖPTI SIGNALAI YRA NEPATOGI PAMOKA

DI sistemos gali reaguoti į dalykus, kurių žmogus net nepastebi. Vaizdo elementus, garsus, tekstus, duomenų kombinacijas.

Jei tokie signalai priverčia robotą ignoruoti taisykles, klasikinis „mes parašėme instrukciją“ nebeveikia.

Reikia testuoti aplinką, jutiklius, modelį ir pačią komandų grandinę. Nuobodu? Taip. Bet robotas nėra žaislinis demo.

KUR TAI PALIES VERSLĄ

Sandėliai, gamyba, ligoninės, apsauga, autonominis transportas – visur, kur DI veikia fizinėje aplinkoje, atsiras šitas klausimas.

Kas atsako, jei robotas padaro veiksmą, kurio neturėjo daryti? Gamintojas? Integratorius? Įmonė, kuri jį paleido į darbą?

Atsakymas bus nemalonus, jei saugumo planas atsiras tik po incidento.

FAQ

Kas yra fizinis DI?

Tai DI sistemos, kurios veikia per robotus, įrenginius ar kitą fizinę techniką, o ne tik per tekstinį pokalbį.

Kodėl paslėpti signalai pavojingi robotams?

Jie gali priversti sistemą elgtis kitaip, nei numatyta saugumo taisyklėse, o fiziniame pasaulyje tai gali sukelti realią žalą.

Ką turi daryti įmonės?

Testuoti robotus realiose sąlygose, riboti veiksmus, registruoti komandas ir turėti aiškią atsakomybės tvarką.

Šaltinis: IEEE Spectrum.

Robotai su DI atrodo įspūdingai, bet pirmas klausimas turi būti saugumas. Apie fizinio DI kryptį daugiau rašome robotikos temose.