De Amerikaanse rechtspraak vraagt om behoorlijk wat geduld, maar deze week was er dan eindelijk uitsluitsel in een potentieel belangrijke landmark case: die van de Uber-chauffeur die in 2018 een vrouw doodreed met haar zelfrijdende auto vs de Amerikaanse staat. De auto was immers geclassificeerd als zelfrijdend. Hij stond ook in die modus toen het op een noodlottige avond in maart een vrouw aanreed in Tempe, Arizona.
Zorgt het zelfrijdende aspect voor immuniteit? Wie heeft er schuld in zo’n geval? De computer – of de toch aanwezige bestuurder? Op dinsdag besloot een Amerikaanse rechter dat de chauffeur wel degelijk aansprakelijk is. Zij wordt nu aangeklaagd voor dood door schuld.
Een saillant detail was dat de vrouw, volgens de openbare aanklager, op het moment van het ongeluk naar de televisieshow The Voice keek. Dit maakte dat ze afgeleid was en niet lette op wat er voor haar op de weg gaande was. Dit detail maakt nu dat zij aangeklaagd kan worden, omdat de Amerikaanse wet nog steeds voorschrijft dat bestuurders aanwezig én alert moeten zijn.
Volgens de officiële lezing stak het slachtoffer, een 49-jarige vrouw, met haar fiets aan de hand een straat over. Hierbij liep zij op een slechtverlichte plek achter struiken uit, waardoor ze pas laat – te laat – gesignaleerd werd. Toen de Volvo XC90 in kwestie kwam aangereden, signaleerde het systeem weliswaar de voetganger – en deed dit al 5,6 seconden voor de impact, wees technisch onderzoek uit – maar kon het niet bepalen of dit een voetganger, fietser, of object was. Daar komt nog bij dat het systeem niet herkende dat ze voor de auto liep.
Het klinkt als een noodlottige samenloop van omstandigheden. Helaas is het er wel eentje met behoorlijk drastische gevolgen voor zelfrijdende auto’s. Alle testen werden opgeschort of geheel afgeblazen, terwijl de toch al kwetsbare industrie behoorlijke publiekelijke klappen te verwerken kreeg. In een blog toentertijd probeerde ik het ongeluk te nuanceren (“In de seconde tussen dat zij op de weg verscheen en dat zij aangereden werd, zou het schier onmogelijk zijn geweest om het noodlot nog af te wenden”), maar het kwaad leek al geschied.
Niet geheel en al onterecht. Zeker nu naar buiten is gekomen dat de auto bijna 6 seconden had om te reageren nadat het de vrouw op de weg signaleerde, is het duidelijk dat dit niet had moeten gebeuren. De rechtspraak heeft alleen maar benadrukt wat de industrie eigenlijk al wist; in afwachting van wetswijzigingen omtrent de voertuigen, blijft de bestuurder hoofdverantwoordelijk.
Alhoewel dit een treurig verhaal blijft voor alle betrokkenen, is er toch iets goeds uit voortgekomen. Alle producenten namen extra tijd voor het veiligheidsaspect en zijn er zo mogelijk nóg harder aan gaan werken om zelfrijdende auto’s gereed te maken voor gebruik – daarbij de rol van de bestuurder niet onderschattend.
Tesla, bijvoorbeeld, neemt het veiligheidsaspect erg serieus. Onlangs, tijdens een aandeelhoudersvergadering van de multinational, kwam Elon Musk op het podium om een update te geven over de zelfrijdende capaciteiten van de auto. Alhoewel zijn toehoorders – voornamelijk rijke investeerders en verveelde tech-miljardairs – de boodschap leken te missen, had hij wel degelijk een hoop interessants te melden.
Met zijn kenmerkende enthousiasme kondigde hij aan dat zelfrijdende auto’s binnen een jaar beschikbaar zouden moeten zijn. Zijn geheim? De sensoren die nu al in iedere Tesla ter wereld zitten. Het systeem draait op deze sensoren – en leert er continu van. Het is zelfs zo dat iedere kilometer die gereden wordt in een Tesla, waar dan ook ter wereld, aangegrepen wordt als een nieuwe leermogelijkheid.
Dit gegeven maakt de rekensom vrij simpel. Men neme het aantal Tesla’s op de weg, zeg 1 miljoen. Dit vermenigvuldig je met het aantal kilometer die deze tot nu toe gereden hebben. Per auto zal dit op zo’n 20,000 kilometer per jaar liggen. Per jaar zit je dan al gauw op 20,000,000,000 kilometer, gevuld met eindeloze leermomentjes.
Juist nu er continu nieuwe Tesla’s bijkomen en men ook meer en langer gaat rijden met deze auto’s, neemt dit aantal exponentieel toe. Ieder moment stroomt er nieuwe data binnen. En dit komt allemaal terecht in Tesla’s zelflerende systeem dat uiteindelijk de zelfrijdende auto’s gaat trainen.
Machine learning op en top, dus. Een Mount Everest aan data wordt uitgestort over Tesla’s engineers, die duidelijk genieten van deze rijke input. Ondertussen leert het systeem als een gretige student van iedere mogelijke situatie, locatie, en gebeurtenis. Dit stelt het in staat om in iedere situatie de juiste aanpak te bepalen. En met ieder stukje data dat binnenstroomt, worden de resultaten nog accurater – én veiliger.
Door de exponentiële groei die we hier zien, zal het inderdaad geen onmogelijkheid zijn om volgend jaar al een volledig zelfrijdende auto op de weg te hebben – die hopelijk wel meteen weet wát een voetganger is, wáár deze is, en hóe nu ingegrepen moet worden. Voor de extra zekerheid houden de sensoren in de auto ook in de gaten of de bestuurder wel alert is – en klinken waarschuwingen als hij of zij afgeleid lijkt te zijn.
De concurrentie houdt de Amerikaanse tech-gigant met argusogen in de gaten. Uber, bijvoorbeeld, laat zich niet kisten door het fatale ongeluk met één van haar auto’s. Het bedrijf wordt zelfs niet aangeklaagd – al vroeg in het proces hebben ze een schikking getroffen met de familie van de overleden vrouw.
Ondertussen wordt er in hun ‘self-driving car testing facility’ in Pittsburgh volop gewerkt aan het veiliger maken van hun zelfrijdende technologie. Op het terrein liggen allerlei soorten wegen en worden verkeerssituaties zo realistisch mogelijk nagebootst om de auto te trainen.
Waar Tesla dus meer vertrouwt op een systeem dat leert aan de hand van real-life data en hier conclusies aan verbindt, lijkt Uber meer van de hands-on approach te zijn: waar door ervaringen geleerd wordt.
Dit blijkt wel uit het gegeven dat de Uber ook weer getest wordt in de straten van San Francisco, om zo goed mogelijk van echte situaties te kunnen leren. Al erkennen de engineers absoluut dat de auto nog niet is waar het moet zijn – zelfrijdend moet beter zijn dan met bestuurder, dat is het doel.
Het is grappig hoe twee giganten die voorop lopen in de strijd om maar met de eerste zelfrijdende auto te komen zo’n drastisch verschillende aanpak hebben. Tesla vaart (in dit geval bijna letterlijk) blind op de vergaarde data, terwijl Uber veel meer gebruik maakt van gesimuleerde of real-life testing.
Beide boksen echter wel op tegen het imagoprobleem dat nog steeds heerst. Zoals een medewerker van Uber zo passend zei, ‘als je zelf niet wilt dat je oma op de achterbank van zo’n auto plaatsneemt, weet je dat er nog meer werk verricht moet worden.’
