Veiligheid / Autonome auto Uber: voetganger werd gezien als obstakel

De Amerikaanse National Transportation Safety Board onderzoekt het dodelijke ongeval met de autonome Volvo XC90 van Uber. Uit het rapport blijkt dat de auto de voetganger wel degelijk opgemerkt had en zelfs ruim op tijd (6 seconden voor het fatale ongeval), maar de software interpreteerde de 49-jarige persoon niet als een voetganger maar als een obstakel omdat ze zich niet in een beschermde zone bevond waar voetgangers tot de parameters behoren.

Verwarring

De autonome Uber-Volvo stuurde een waarschuwingssignaal naar de bestuurder, maar die reageerde niet. En daarom besloot de software een noodstop of een ontwijkingsmanoeuvre te vermijden wegens gevaarlijker dan het als veilig geïnterpreteerde obstakel te raken. Het fatale ongeval toont de grenzen van kunstmatige intelligentie aan. Zonder een zekere mate van "roekeloosheid" geraakt een autonome auto simpelweg niet door het verkeer, omdat hij anders voortdurend zou moeten stoppen bij het minste vermoeden van gevaar. Maar het verkeer is een onvoorspelbaar laboratorium, waar verwarring voortdurend tot ongelukken kan leiden. Uber zegt geleerd te hebben uit het ongeval en stelt essentiële veligheidsverbeteringen te hebben aangebracht.