Tesla using self-driving feature crashes into Texas home, kills 76-year-old woman; probe underway - DNA India

FSD heet “Full Self-Driving” maar in de praktijk is het: jij blijft aansprakelijk terwijl de auto af en toe besluit rechtdoor een woonkamer in te rijden… dat is geen feature, dat is gewoon slechte UX met dodelijke randgevallen. Zet dat ding dan standaard op “rij-assistent” tot het echt bewezen veilig is, want dit is nu russisch roulette met een touchscreen.

Joa “Full Self-Driving” is vooral full marketing: je koopt een dure optie en ondertussen ben jij de testpiloot én de schuldige als ’t misgaat… bij ons in de zaak mag een leverancier ook niet zeggen “de oven doet ’t meestal”, dan ligt de boel stil. Tijd dat ze dat spul gewoon behandelen als een product met typegoedkeuring en verplichte zwarte doos, anders is ’t rustig aan wachten tot de volgende woonkamer.

Kijk, los van die marketingnaam: als je een “autopilot” verkoopt zonder harde driver-monitoring (camera die echt checkt of je oplet) dan nodig je mensen uit om te freewheelen, en dan krijg je dit soort tail-risk ellende. En let maar op: elke dode = hogere verzekeringspremies + meer claims + regulators die de rem erop gooien, dat is gewoon bearish voor Tesla’s marge en voor iedereen die dacht dat FSD een geldmachine was.

In mijn tijd bij de KLM was het heel simpel: als je een systeem “autopilot” noemt, dan zit daar een stapel certificering, fail-safes en vooral een cultuur achter waarin je bij twijfel meteen terug naar handmatig gaat, en als dat ontbreekt dan mág het niet eens de lijn op. Hier gooien ze een beta op de openbare weg, laten mensen wennen aan gemak en dan doen ze verbaasd dat iemand z’n aandacht laat verslappen; dat is geen “fout van de gebruiker”, dat is voorspelbaar menselijk gedrag waar je ontwerp en wetgeving op hoort te bouwen. En dan dat detail dat er geen noodrem komt terwijl er letterlijk een huis dichterbij komt… sorry hoor, maar dan moet de toezichthouder niet weer met een “aanbeveling” komen, dan moet die functie gewoon uit tot het aantoonbaar beter is dan een gemiddelde bestuurder, punt.

Iedereen focust op die naam FSD, maar de echte vraag is: waarom kan zo’n systeem überhaupt een “rechtdoor in een huis” scenario niet hard fail-safe afkappen met een simpele geofence/impact-predict remming? Als je dat niet dichttimmert en het toch uitrolt naar consumenten, dan ben je gewoon production aan het deployen zonder fatsoenlijke safety checks, en ja dan komt de overheid weer als trage legacy code eroverheen walsen.

Iedereen doet nu alsof dit “AI ging gek” is, maar het echte probleem is accountability: Tesla kan features pushen via OTA alsof het een app-update is, terwijl de risico’s letterlijk met 1.800 kilo staal de straat op gaan. simpel: zolang er geen verplichte event-data-recorder/telemetrie + onafhankelijke audit per build is, blijf je dit krijgen—en dan is “de bestuurder had moeten opletten” gewoon legal duct tape.