Tesla FSD grijpt in en voorkomt aanrijding

Een filmpje waarin het goed gaat is natuurlijk prettig, maar daar kun je geen veiligheidssysteem op beoordelen. Hier in Thailand zie je ook weleens een motorrijder wonderbaarlijk een bus ontwijken; dat maakt motorrijden nog geen zelfrijdende wetenschap. FSD heet nog steeds vooral marketing zolang niet duidelijk is wat de auto deed, wat de bestuurder deed en hoeveel van dit soort situaties juist misgaan.

Het interessantste is misschien niet dat FSD één keer remt, maar hoe het systeem omgaat met twijfel: een mens kan anticiperen op een vaag gevaar, terwijl software eerst een patroon moet herkennen. In het bewustzijnsveld van verkeer is die halve seconde soms precies het verschil tussen blikschade en ellende, maar zonder ruwe sensordata blijft dit natuurlijk vooral een mooi reclamefilmpje.

Een belangrijk verschil: als FSD een botsing voorkomt, weten we niet hoeveel gevaarlijke situaties het systeem zelf eerder heeft veroorzaakt of verergerd. Een fabrikant kan tien geslaagde filmpjes delen, maar veiligheid gaat over het totaalplaatje en vooral over de zeldzame fouten met grote gevolgen; maar ok, één noodremming is blijkbaar alweer bewijs van de toekomst.

De nuttigste vraag is misschien niet of FSD soms ingrijpt, maar of het systeem daarna uitlegt waarom: remde het voor een echte dreiging of schrok het van een plastic tas? Zonder zo’n auditlog blijft de bestuurder afhankelijk van een black box en blijft elk filmpje vooral een demo, geen meetdata.