Jedno od pitanja koje se često postavlja kada se govori o budućnosti automobila kojima bi trebala upravljati računala jest tko će biti kriv u slučaju prometne nesreće sa smrtnim posljedicama, odnosno ako je do nesreće došlo zbog pogreške računala tko će odgovarati i biti kažnjen za posljedice. Kompanije koje ulažu velike resurse u razvoj ove tehnologije i ovakvih automobila poput Googlea uvjeravaju sve kako se do sada pokazalo da su ovakva vozila sigurnija i da su računala bolji vozači od ljudi, a Googleovi automobili do sada su odvozili stotine tisuća km diljem Amerike uz samo jedan sudar za koje je krivo njihovo računalo – pri čemu nije bilo niti velike materijalne štete niti ljudskih žrtava.
Među brojnim vozačima Teslinih automobila iznimno je popularna opcija autopilota koji sam upravlja vozilom, a iako su iz ove kompanije sve upozorili kako je riječ o testnoj verziji autopilota te da njihove ruke uvijek moraju biti na volanu, na YouTubeu možemo pronaći brojne snimke na kojima su vozači u potpunosti prepustili kontrolu nad vozilom autopilotu i nemaju ruke na volanu.
Jučer su iz Tesle na svom blogu objavili kako je, u prometnoj nesreći iz svibnja ove godine u kojoj je poginuo vozač njihovog automobila, tim automobilom upravljao autopilot. Automobil je vozio autocestom i udario u kamion s prikolicom koji je skretao ulijevo – niti autopilot niti vozač nisu primijetili kamion te automobil nije niti pokušao zakočiti. Regulatorna tijela pokrenula su istragu vezanu uz ovu prometnu nesreću i opciju autopilota, a na New York Timesu kažu kako je ovo težak udarac za Teslu koja želi proširiti ponudu svojih električnih automobila s jeftinijim modelima koji će biti namijenjeni masovnom tržištu.
Novinari napominju kako će se mnogi nakon ovog slučaja ponovno zapitati mogu li autonomni automobili, odnosno računala tijekom vožnje donijeti brze i ispravne odluke u 'o kojima ovisi život ili smrt'. U priopćenju u kojem su obavijestili javnost o ovoj nesreći i izrazili sućut obitelji vozača, iz ove su kompanije objavili kako je do sada Teslin autopilot prešao više od 130 milijuna milja, a ovo je prva nesreća sa smrtnim posljedicama, dok se inače ovakve nesreće događaju svakih 94 milijuna milja u SAD-u i 60 milijuna milja na svjetskim cestama.
Iako ova nesreća neće obeshrabriti brojne kompanije da nastave s ulaganjima u naprednu tehnologiju za autonomne automobile, analitičar Karl Brauer komentirao je kako je ova nesreća 'poziv na buđenje' i signal da tehnologija možda i nije toliko napredna i spremna za svakodnevno korištenje kako su to mnogi do sada govorili.
