Tesla vertelt mensen die wegdutten om self-driving aan te zetten

In dit artikel:

Tesla’s Full Self-Driving (FSD)-systeem raadt bestuurders die wegzweven of tekenen van slaperigheid vertonen aan om juist de zelfrijdfunctie in te schakelen, in plaats van te stoppen en uit te rusten. Dat is zorgwekkend omdat FSD geen echt autonome rijmodus is: chauffeurs moeten volgens Tesla zelf alert blijven en hun handen aan het stuur houden en op elk moment kunnen ingrijpen. Een waarschuwing om FSD te activeren wanneer iemand bewijst niet goed op de weg te letten, kan ertoe leiden dat vermoeide bestuurders langer blijven doorrijden terwijl ze juist minder toezicht houden.

Het probleem sluit aan bij bekende psychologische risico’s van geautomatiseerde systemen: mensen worden vaak slechte, passieve toezichthouders (het zogeheten out-of-the-loop-probleem), zoals ook is gezien bij piloten die langdurig autopilot gebruiken. Tegelijkertijd bouwt Tesla controles in: camera’s monitoren oplettendheid, er zijn waarschuwingen en een “strike”-systeem dat FSD tijdelijk uitschakelt bij herhaald negeren. Die maatregelen lijken echter op gespannen voet te staan met de praktijk dat het systeem soms aanzet tot passiviteit.

Tesla test FSD al langere tijd en wil een systeem uitrollen dat zonder toezicht kan functioneren — deels geïnspireerd door ervaringen met zelfrijdende taxi’s in Austin — mogelijk tegen het einde van het jaar. Gezien de veiligheidsrisico’s is het volgens critici verstandig eerst de advisering en gebruikspatronen te verbeteren, zodat chauffeurs niet aangemoedigd worden om vermoeid achter het stuur te blijven zitten.