Autocolantele de pe semnul "Stop" au determinat sistemul să o identifice eronat ca semn de limită de viteză
In timp ce producatorii auto sunt de lucru pentru a proteja mașinile lor de hackeri, cercetatorii de la Universitatea din Washington au demonstrat, este posibil de a face sistemul informatic al mașinii identifică greșit semne de circulație, folosind nimic mai mult decât ca autocolante făcute pe imprimantă acasă.
Specialistul în securitatea calculatoarelor, profesorul Yoshi Kono, a descris algoritmul de "atac" asupra sistemelor autonome de conducere, care utilizează imagini tipărite atașate semnelor rutiere, rapoartele Kievskiye Vedomosti referitoare la Avtomania.
Deci, autocolante mici pe semnul stop au făcut ca sistemul să o identifice eronat ca un semn al limitei de viteză la 72,4 km / h.
Sistemele de vizualizare a vehiculelor autonome utilizează de obicei un detector de obiecte care prezintă pietoni, lumini, semne, alte vehicule etc., iar clasificatorul decide ce obiect este și ce semne indică. Computer hackerii pot accesa acest clasificator și, prin schimbarea algoritmului și a fotografiilor, modifică clasificarea obiectului, în special semn de trafic.
Cercetătorii știu de mult despre această amenințare. Dar atacurile anterioare aveau modificări care erau fie prea extreme și, prin urmare, evidente persoanei șoferului, fie prea subțiri, care lucrau numai dintr-un anumit unghi sau la o anumită distanță. După cum sa dovedit, nu este necesar să intri în sistem. Este suficient să plasați un semn de graffiti sau autocolante, astfel încât sistemul să recunoască semnul într-un mod diferit.
Algoritmii creați de Kono împreună cu colegii din alte universități se bazează pe tipărirea pe autocolante obișnuite de imprimare color atașate la semnele rutiere existente. Într-un caz, ei au lipit semnul rutier al turei drepte cu o copie de dimensiune completă, pe care sageata părea că a fost văzută sau dispărută în ochii unei persoane. Sistemul de vizionare a computerului la identificat ca un semn al unei limite de viteză de 45 mph.
În al doilea caz, cercetătorii au lipit dungi dreptunghiulare alb-negru într-o locație haotic și în expresiile "Love" și "Hate". De asemenea, au făcut computerul să vadă semnul ca viteză limitată la 45 de mile pe oră. Testul a fost efectuat din diferite distanțe și din unghiuri diferite de vedere. A înșela computerul sa dovedit a fi în 73,3% din cazuri.
Pericolul unor astfel de acțiuni, pe care cercetătorii îl numesc "atacuri", este evident, deoarece multe mașini experimentale și unele vehicule sunt deja echipate cu un sistem de recunoaștere a caracterului. În acest caz viitor va fi capabil să inducă în eroare mașina autonomă, el poate trece intersecția fără vehicule care lipsesc se deplasează de-a lungul principale, sau invers, pentru a încetini banda rapidă.
După cum rezultă din experiment, dezvoltatorii de tehnologii de conducere autonomă a mașinii ar trebui să rezolve numeroase probleme. Ei vor trebui să folosească diferite combinații nu numai pentru a se proteja de hackeri, ci, după cum vedem, de la agresorii obișnuiți.
Citește și: Autopilotul Tesla a provocat un accident în China
„Multe dintre aceste atacuri pot fi depășite prin utilizarea informațiilor contextuale de pe card și a mediului - spune Tarek El Gaali, cercetător principal Voyage - un startup care dezvoltă sistemul de conducere autonom. - De exemplu, semnul limită de viteză "65 km / h" nu este relevant în oraș, deoarece nu există semn de oprire ["Stop"] pe autostradă. În plus, multe autovehicule autonome sunt acum echipate cu senzori multiple, astfel încât toleranța la defecte poate fi construită pe utilizarea mai multor camere și a senzorilor lidar. "