Ostatniego dnia swojego życia Jeremy Banner obudził się przed świtem. Wsiadł do swojej czerwonej Tesli Model 3 i pokierował się na południe wzdłuż wybrzeża Everglades na Florydzie.
Kierowca tym razem aktywował najbardziej złożoną i kontrowersyjną funkcję autonomicznego prowadzenia: Autopilot Tesli. Jest to system komputerowy, który wykonuje wszystkie funkcje normalnej jazdy po autostradzie bez udziału kierowcy. Samochód może przyspieszyć, zmienić pas, zjechać z drogi i – jeśli zauważy przeszkodę przed sobą – zahamować.
Tesla Inc. dąży do zdominowania globalnego rynku motoryzacyjnego, a Autopilot uważa za kluczowy pierwszy krok. Klienci to uwielbiają, przejechali ponad 1,5 miliarda mil na Autopilocie, często przekraczając granice oprogramowania. Mimo że instrukcja ostrzega kierowców przez cały czas, aby ściśle nadzorowali samochód, nie powstrzymało to niektórych od czytania książek, drzemki lub uprawiania seksu. Przez większość czasu samochód prowadzi ich tam, dokąd chcą.
Ale tego ranka w marcu sedan Bannera nie zauważył ciągnika-przyczepy przekraczającego czteropasmową autostradę. Podobnie Banner, którego uwaga najwyraźniej zbłądziła, uderzył w barierkę z prędkością 68 mil na godzinę. 50-letni ojciec trójki zmarł na miejscu.
Błędy komputerowe nie wyglądają jak błędy ludzkie. Autopilot ma odruch błyskawicy, ale czasami nie dostrzega zagrożeń na swojej drodze. Wydaje się, że takie niedopatrzenia odegrały rolę w czterech z pięciu znanych ofiar śmiertelnych od czasu wprowadzenia Autopilota w 2015 r. Wypadek Bannera w rzeczywistości był niesamowicie podobny do wcześniejszego. W sierpniu rodzina Bannera pozwała Teslę.