Az Európai Unió Kiberbiztonsági Ügynöksége (European Union Agency for Cybersecurity – ENISA) az uniós Közös Kutatóközponttal (Joint Research Centre – JRC) együttműködve nemrég tett közzé egy jelentést, melyben az autonóm járművekben használt AI-rendszerek megjelenésével kapcsolatos kihívásokat veszik számba.

A bevezetőben leszögezik, hogy az autonóm járművek a legfontosabb baleseti kockázatot, az emberi vezetést kiküszöbölve hozzá fognak járulni a közlekedési balesetek számának jelentős mértékű csökkenéséhez – ám ennek várhatóan meglesz az ára, ugyanis az új technológia új kockázatokat hoz majd magával.

Az új veszélyek forrása, hogy a járműveket vezérlő, önálló tanulásra is alkalmas mesterségesintelligencia-rendszerek informatikai rendszerek, így éppen úgy ki lesznek téve támadásoknak, mint az élet más területein használt informatikai rendszerek – és e várható támadások egy újfajta közlekedésbiztonsági kockázatot teremtenek meg.

A jelentés ezeket a lehetséges kockázatokat tekinti át általánosságban, és ajánlásokat fogalmaz meg ezek mérséklésére.

[+]

A sebezhetőségekről összefoglalóan azt írják, hogy mivel az autonóm járművek AI-rendszerei a tájékozódáshoz, a manőverekhez szenzoraikkal folyamatosan gyűjtik a jelzéseket (közlekedési táblák, útburkolati jelek, a többi jármű helyzete és mozgása, az útvonaltervezés stb.), ezért egy rossz szándékú támadás során számtalan olyan kritikus pont található a rendszerekben, melyeken keresztül súlyos zavarokat lehet okozni – a sok ezer lehetségesből felhoznak néhány triviális esetet: mi van akkor, valaki szándékosan átfesti az útburkolati jeleket, vagy mondjuk matricával manipulál egy közlekedési táblát? És ezek még nem is szorosan vett informatikai támadások.

A jelentés által megfogalmazott ajánlások többek között szerepel a járművekben használt AI-rendszerek kötelező folyamatos ellenőrzése és tesztelése, melyeken azt mérnék, hogy váratlan helyzetekben, illetve feltételezett támadások során a rendszerek miképpen reagálnak. Egy másik ajánlás pedig egy kockázatelemzési rendszer kialakítását javasolja, hogy a gyártóknak meg kelljen felelniük egy általános AI-biztonsági irányelvrendszernek, melyet mind a tervezés, mind a működtetés során követniük kell. Emellett azt is hangsúlyozzák, hogy az autonóm járműveket gyártó vállalatoknak ki kell alakítaniuk egy olyan, dedikáltan a kiberbiztonsággal foglalkozó hátteret, mely gyorsan képes reagálni a felmerülő biztonsági problémákra.