Opinie / De redactie ongefilterd - Het advies van Isaac

Naast hun journalistieke methodologie en hun professionele perspectief binnen de autosector zijn de leden van onze redactie eerst en vooral automobilisten en gewone burgers. In 'De redactie ongefilterd' spreken ze vanuit hun hart. Vandaag is het aan Olivier Duquesne, die vertelt waarom Isaac Asimov hem geautomatiseerde functies in auto's doet wantrouwen...

LEES OOK De redactie ongefilterd – overzicht

In mijn bibliotheek staat het boek The Robot Cycle – 1. I, Robot door Isaac Asimov. Een verzameling korte verhalen die een bijzondere weerklank vindt in het tijdperk van autonome auto's van niveau 3, 4 of 5. Je hebt waarschijnlijk al eens gehoord van de drie befaamde wetten van robots* die hij schreef. Maar deze verzameling kortverhalen gaat verder.

Ze toont aan dat de auteur een visionaire geest had en de verschillende problemen van automatisering en de toewijzing van taken aan machines perfect inzag. Met name het probleem van verkeerd geïnterpreteerde bevelen die uiteindelijk degenen die de robot moet beschermen, juist in gevaar brengen. Zoals het rijhulpsysteem dat het stuur overneemt om tussen de lijnen te blijven, hoewel er een obstakel moet worden ontweken of een tijdelijke wegmarkering (van slechte kwaliteit) moet worden gevolgd.

Logisch, of niet?

Tuurlijk, Robbie redde Gloria in het boek. Maar niet alle robots in het boek zijn zo effectief. Sommige maken het de terugkerende heldin – Susan Calvin – moeilijk. Zozeer zelfs dat je kunt geloven dat ze "slecht" en "cynisch" zijn. Toch zijn het slechts machines, die reageren "volgens de logische regels die in hun 'hersenen' werden ingeplant op het moment dat ze werden gebouwd", zoals Asimov in zijn voorwoord uitlegt. Het is hetzelfde met onze geautomatiseerde auto's.

Ze kiezen gewoon een van de talloze scenario's die in hun chips zijn geïmplanteerd. En dat is helaas het probleem. In tegenstelling tot een mens met een gemiddelde (zelfs zeer gemiddelde) intelligentie, kunnen zij geen inventiviteit en improvisatievermogen aan de dag leggen wanneer de situatie ongewoon is. In zoverre dat ze het totaal oneens kunnen zijn met de weg die de “robot aan het stuur” koos; vandaar het conflict met de mens die met de machine moet vechten om zijn zin te krijgen. Zelfs als in principe elk verzet de software van de (semi-)autonome auto ertoe aanzet zich over te geven.

De dood als bondgenoot

Niet expliciet geschreven, maar wel beschreven in dit boek (spoiler alert) is dat de machines uiteindelijk een vierde wet voor zichzelf creëren, ook wel bekend als 'wet 0'. Nog steeds begaan met de bescherming van de mens verlenen zij zichzelf niettemin de taak om de mensheid boven het individu te stellen. Met andere woorden, ze kunnen ‘schadelijke" mensen manipuleren om ze onschadelijk te maken. En alle verantwoordelijkheid van hen wegnemen door de illusie van comfort.

Vandaar de vraag: in hoeverre moeten we kunstmatige intelligentie vertrouwen? Op zichzelf zijn robots slechts apparaten die in staat zijn tot wiskundige bekwaamheid met onmenselijke snelheden. Maar ze kunnen zich op een volstrekt domme manier gedragen, die misschien logisch is, maar vanuit emotioneel oogpunt verwarrend dom. Want zij missen de angst die ons allen (in principe) tot een zekere voorzichtigheid drijft: de angst voor lijden en dood.

Mate van vertrouwen

Het is waar: de huidige ‘robotauto's’ hebben me al uit een paar benarde situaties gered, of ze reageerden tenminste sneller dan ik. Maar ik heb mijn fysieke integriteit ook te danken aan een paar snelle reflexen en mijn ervaring, die soms haaks staan op wat de machine wilde doen. Zou zijn keuze slecht zijn geweest? Ik weet het niet, maar ik vertrouwde genoeg op mijn instinct om de zaken (opnieuw) ter hand te nemen.

Waakzaamheid is de moeder van de veiligheid bij het besturen van een auto, zelfs een met de zogenaamde automatische piloot. Uiteindelijk is het leven een kostbaar goed dat alleen mensen echt kunnen onderscheiden. We hebben geen algoritmes of slimme berekeningen nodig om het te voelen, het is aangeboren in ons. We hebben alleen wat richtlijnen en een minimum aan voorlichting nodig (sommigen blijkbaar meer dan anderen) om onszelf en anderen te beschermen.

Niet dat ik twijfel aan regels en aan het nut van vangnetten. Maar al die elektronische systemen in onze geliefde auto's kunnen – mogen – er niet toe leiden dat onze beslissingen volledig beheerst worden door elektrische impulsen zonder gevoel en bestemming.

* De wetten van Asimov

1.    Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.

2.    Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet.

3.    Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.