Vývoj autonomních automobilů neustále pokračuje a kvalita systémů, které vozidlo udržují na silnici, se zlepšují s každým ujetým kilometrem. Spolu s rozsáhlým testováním jsou však odhalovány i potenciální problémy, které mohou v provozu nastat. Výzkumníci z University of Washington objevili závažný problém, který by mohl mít tragické následky.
Problém spočívá v nálepkách na dopravních značkách, které by mohly splést kamery vozidla, a systém by pak mohl interpretovat značku opačně. Vědcům se podařilo umístit na značku STOP nálepky tak, že si ji systém vyloží jako značku upravující maximální rychlost na 72 kilometrů za hodinu. Nutno říci, že se nejedná o obyčejné nálepky, ale v laboratoři pečlivě navržené a umístěné znaky, které navíc berou v potaz způsob, jakým systémové algoritmy vyhodnocují to, co „vidí.“ Případní útočníci se tedy nejdříve musí dostat k těmto algoritmům a zjistit, jak fungují, aby mohli ovlivnit chování vozidla.
Malým uklidněním může být fakt, že se automobily nebudou spoléhat jen na kamery, ale i na další senzory, které mohou případnou kolizi, jež by byla způsobena chybným pochopením dopravního značení, odvrátit. I tak ale zůstává otázkou, jak si software poradí s případnými falešnými značkami a nezbývá než doufat, že se vývojářům podaří propojit několik kontrolních mechanismů, které se budou navzájem hlídat.
