Een Electrek-enquête onder lezers heeft sterke meningen onthuld over wie verantwoordelijk is wanneer kunstmatige-intelligentiesystemen achter autonome voertuigen falen en schade veroorzaken. De poll, die bijna 3.000 reacties opleverde, vroeg deelnemers na te denken over scenario's met zelfrijdende taxi's van bedrijven als Tesla en Waymo.
De timing viel samen met recente mijlpalen van Tesla, waaronder de herintroductie van de Cybercab in Austin, Texas, en de start van de serieproductie van de langverwachte Tesla Semi in Nevada. Krantenkoppen over fatale Tesla-incidenten en Waymo dat duizenden parkeerboetes incasseerde, gaven extra urgentie aan het debat.
Slechts 102 stemmen, of ongeveer 3,5 procent, steunde het idee dat de persoon achter het stuur aansprakelijk blijft, ook bij gebruik van autonome functies. De overgrote meerderheid, bijna 90 procent, legde de primaire verantwoordelijkheid bij de ontwikkelaars van de AI-systemen in de voertuigen.
Verschillende commenters vonden dat eigenaren de last moeten dragen. Een van hen merkte op dat aansprakelijkheid traditioneel bij de geregistreerde eigenaar ligt, vergelijkbaar met het uitlenen van een auto aan een andere bestuurder. Een ander benadrukte dat elk voertuig de wet kan overtreden en dat de eigenaar die het op de weg zet, de gevolgen draagt.
Degene die de auto bezit, moet de schuld krijgen. Elke auto die ooit is gebouwd, kan de wet overtreden en de bestuurder krijgt de schuld als dat gebeurt. Als er geen bestuurder is, is de geregistreerde eigenaar de verantwoordelijke partij voor het op straat zetten van een wetsovertredend voertuig.
Andere lezers stelden daartegenover dat eigenaren beperkt in staat zijn om AI-gedreven fouten te voorkomen. Ze wezen erop dat kopers in feite een gesloten systeem aanschaffen en realistisch gezien niet kunnen ingrijpen of elke storing kunnen voorzien.
Welke actie had de eigenaar kunnen ondernemen om een ongeluk te voorkomen? Ze kopen een black box die het voertuig bestuurt. Als de eigenaar de aanbevelingen van de fabrikant niet heeft opgevolgd, kan die aansprakelijk zijn, maar niet als er geen actie was die het ongeluk had kunnen voorkomen.
Ook een middenweg kreeg aandacht. Een ervaren commenter stelde voor de aansprakelijkheid gelijk te verdelen tussen de autofabrikant en de AI-ontwikkelaar, omdat beide partijen nauw samenwerken aan deze systemen.
Ik vind dat de aansprakelijkheid gelijk moet worden verdeeld tussen de autofabrikant en de AI-fabrikant. Het is geen of-of-kwestie. Ze werken hand in hand om dit dystopische scenario te realiseren.
De resultaten onderstrepen de aanhoudende discussies over verantwoordelijkheid nu autonome technologie zich verder ontwikkelt. Electrek-lezers kiezen duidelijk voor het leggen van de last bij degenen die de AI-systemen creëren en inzetten.