Juridisch / Ongeval met zelfrijdende auto: heeft het autonome voertuig verkeerd gereageerd?

Op 3 juni was een autonome Chevrolet Bolt van Cruise betrokken bij een ongeval in San Francisco, Californië. Er vielen geen gewonden, maar de NHTSA (de Amerikaanse organisatie voor verkeersveiligheid) was van mening dat het voertuig anders had moeten reageren. Dit is er gebeurd: terwijl de Bolt naar links wilde afslaan, naderde een Toyota Prius met 64 km/u (in plaats van 40 km/u) de rijstrook om naar rechts af te slaan. Helaas besloot de bestuurder uiteindelijk om rechtdoor te rijden terwijl de Bolt zijn bocht maakte. Waarna de autonome auto precies op het pad van de Toyota stopte, wat resulteerde in een kleine aanrijding waarbij de Chevrolet van achteren werd aangereden.

Geen overtreding

Het probleem waar na onderzoek op gewezen werd, hoewel de Bolt van Cruise ‘in fout’ was, was de reactie van de software. Die had de Prius correct gedetecteerd. Maar toen de computer die zag op de strook om rechtsaf te slaan, ging hij ervan uit dat de Toyota dat manoeuvre zou uitvoeren, zonder te wachten op visuele bevestiging. Bovendien remde de Bolt wanneer hij merkte dat de Prius uiteindelijk zijn kant op kwam, in plaats van van richting te veranderen of gas te geven (wat in strijd is met de verkeerswet). Een plotselinge ruk aan het stuur of het intrappen van het gaspedaal zou de ‘normale’ reactie zijn geweest van een menselijke bestuurder, die op het riskante manoeuvre van de Prius-bestuurder zou hebben geanticipeerd. De NHTSA heeft dan ook gewezen op een gebrek aan perceptie voor een nakend ongeval.

Update

Cruise is van mening dat zijn autonome voertuig geen enkele fout heeft begaan (aangezien het zich aan de verkeersregels heeft gehouden). De software zal echter worden bijgewerkt om beter op dit soort situaties te reageren. Hoe zal de kunstmatige intelligentie worden ingesteld om een botsing te vermijden door de fout van een andere weggebruiker? Zal het mogelijk zijn om in noodgevallen niet strikt volgens de verkeersregels te reageren? En hoe kan een robot worden geleerd te anticiperen op soms onverwachte menselijke reacties? Dit zijn nog onbeantwoorde vragen, maar wel vragen die de informatici van het robottaxibedrijf moeten beantwoorden.