De autonome auto dit jaar nog op de weg?
De afdeling Risico Beheer en Techniek (RBT) van het KIVI (Koninklijk Instituut van Ingenieurs) bestudeert opvallende gebeurtenissen, analyseert die en tracht wegen te vinden technische risico’s beter te beheersen. Dit keer aandacht voor de veelbelovende horizon van risicoreductie met behulp van kunstmatige intelligentie.
In het juninummer van De Ingenieur treffen we een interview met Prof. dr. Peter Werkhoven. Hij werd kort geleden benoemd tot Chief Scientific Officer bij TNO. Het interview betreft kunstmatige intelligentie.
Als illustratie van zijn stelling dat AI nog niet in staat is ethische aspecten in zijn beslissingsproces mee te wegen betrekt Werkhoven de autonome auto in het gesprek. Vervolgens stelt hij als afsluiting dat wij er voor moeten zorgen dat wij “zo ethisch mogelijke doelen aan een computer of algoritme meegeven.” Daaruit maakte ik op dat het nog wel een paar jaar zal duren voordat we de zelfstandige auto op de weg zullen zien. We hadden het concept voor deze column nog niet gereed of onze mond viel open door de NRC die met de futuristische kop wereldkundig maakt dat “Bus zonder bestuurder mag de weg op”. Zie het Economiekatern dinsdag 2 juli 2019, pag. E1. De Nederlandse topkrant is in haar berichtgeving niet synchroon met het Nederlands toptijdschrift De Ingenieur. Dat is nog spannender dan de Nederlandse vrouwen, die om de wereldtitel strijden.
Deep learning heeft de laatste jaren een enorme vlucht genomen. Een systeem kan uit een grote berg big data patronen herkennen en trends rangschikken. Op die manier herkennen wij de meest kwetsbare situaties. We kunnen dan energie en werkkracht concentreren om die gebieden te verbeteren. Op de recente Dordrecht Process Safety Conference (juni 2019) vertelde BASF hoe ze voor al haar installaties ter wereld een classification of human error types had opgesteld en daarin patronen had herkend, die hadden geleid tot verzamelingen van typische example incidents. Die vormden de basis voor de ontwikkeling van een lijst met Best Practices. De inleider, Hans Swartz, presenteerde een gedetailleerd voorbeeld van alle kleppen en afsluiters in chemische installaties. Het systeem voorspelt welke menselijke fouten zullen voorkomen. De organisatie ontwikkelde daarop een verbeterde werk- en controlesystematiek. Het aantal menselijke fouten reduceerde; de efficiency bij onderhoud verbeterde.
Symbolic reasoning, het logisch redeneren loopt duidelijk achter op deep learning. AI zou moeten kunnen voorzien in dergelijke risicoverminderingen, die nu nog door mensen worden aangebracht. Daar is AI (nog?) niet goed in. Dat zal voorlopig nog wel even zo blijven. Werkhoven geeft het voorbeeld van de autonome auto. Die kan oneindig veel situaties tegen komen, waardoor je niet kunt inplannen wat de beste ingreep is. Daarom moet het AI-systeem worden gevoed met informatie hoe de ideale mens in de door het systeem aangetroffen situatie zou handelen. Bij menselijke beslissingen zijn veel irrationele factoren aan de orde. Die moeten we wel vooraf meegeven aan de autonome auto voordat hij de weg op mag. Werkhoven schetst een opdracht met drie elementen: van A naar B rijden, a) zo snel mogelijk, b) met zo min mogelijk luchtverontreiniging en c) zo min mogelijk ongelukken. Het AI-systeem moet nu optimaliseren. Rijden met hoge snelheid gaat ten koste van luchtvervuiling en doet de kans op ongevallen toenemen; a en b zijn tegenstrijdige eisen; a en c eveneens. We moeten het systeem waarden ingeven in getallen, zo niet dan kan het systeem niet rekenen. Dat zijn overwegend ethische waarden. Hoeveel is het ons waard op tijd op de afspraak te komen? Dat kan met een parabool, met een asymptoot of logaritmisch, of met een lineaire functie van snelheid als functie van tijd, maar het kan. Het zelfde is te doen met het verband tussen snelheid en luchtvervuiling. Daaruit is een optimum te berekenen. Het wordt ingewikkeld als een personenauto een keuze moet maken tussen schampen van een voetganger en op tijd op de afspraak. Hoe waardeert men de schade van het schampen met de onzekerheid van overlijden van de voetganger?
We moeten het AI-systeem vooraf verteld hebben hoe veel een mensenleven waard is. Dat is een arbitraire waarde. Er zijn beschavingen, die het leven van een mens niet in geld willen uitdrukken. Daar is een waardige ceremonie na het sterven van essentieel belang. De regering van Indonesië waardeerde een mensenleven op $1 miljoen (claim op Boeing na de crash met de 747Max). Om het eenvoudig te houden zouden we de geldwaarde van het leven bij de programmering kunnen omzeilen en uitsluitend onze wenselijke kansen aan het systeem mee kunnen geven.
We zouden AI zodanig kunnen instrueren, dat het incident met de kans van schampen met effect van overlijden het jaarlijks aantal verkeersslachtoffers in NL niet ongunstig mag beïnvloeden. Vervolgens moeten we verder nuanceren. Schampen kan ook letsel opleveren. Een paar flinke blauwe plekken verschillen van het gemis van ledematen of hersenletsel. De diverse kans-minimaliseringsopdrachten, die daaruit voortvloeien, zijn ingewikkeld. Ze zijn even arbitrair als de overlijdenskansenreduceeropdrachten. Maar binnenkort zal het werkelijkheid zijn.
Uit het oogpunt van risicobeheer is het grote voordeel van dergelijke programmering van de autonome auto, dat we geen verdere preventieve maatregelen nodig hebben om het aantal ongevallen met auto’s te reduceren. Want symbolic reasoning zorgt er voor dat het aantal ongevallen in diverse klassen blijft onder het door ons geprogrammeerde aantal.
Maar ook zo lang AI nog niet zo ver is, staan we niet met lege handen. BASF kan uit de door AI gerangschikte berg gegevens een verstandige beslissing nemen. Maar we moeten nu nog investeren in preventie. Het vergt menselijke denkkracht op niveau, waarschijnlijk ook flink wat budget . Wat hebben we over voor een investering in verbetering van veiligheid van een organisatie? Verbeteringen vergen tijd en capaciteit in mensuren. Die zijn te vertalen in geld en doorlooptijd. Zij brengen na verloop van die doorlooptijd winsten op in de vorm van niet-voorgevallen incidenten. Dat kan nog steeds zonder symbolic reasoning. Totdat AI het van ons zal overnemen. Hoe lang moeten we daar nog op wachten? 3 jaar? 5 jaar? Het gaat altijd sneller dan je denkt. Ooit zal niet alleen de autonome auto operationeel zijn, maar tal van industriële processen, waarna de risicobeheersing door AI beter zal zijn dan op de huidige dag door de mens.
Pagina E1 van de NRC van dinsdag 1 juli 2019
Blijft de bus, die volgens de NRC de weg op mag. We hebben wat nadere informatie gevonden. Het gaat om afgebaande trajecten en een beschermde situatie. Het is nog maar een simpel ding, dat uiterlijk wel wat weg heeft van een koekblik op kleine wielen. Ander verkeer wordt van het parkoers geweerd. Toch een mooie stap. Een eerste investering op weg naar een echte autonome auto. Ik kijk er naar uit. Wel graag het risicobeheer van dat voertuig op orde krijgen. Het mag niet de Stint achterna.
Mr. Ing. John van der Puil
Bestuurslid Afdeling Risico Beheer & Techniek
Lid Programmacommissie
Op persoonlijke titel.