Tesla od lat sprzedaje wizję autonomicznej jazdy jako technologii stojącej tuż za rogiem. Nowe ustalenia Reutersa pokazują jednak rozdźwięk między publicznymi obietnicami a tym, co z systemem Full Self-Driving mieli widzieć ludzie pracujący przy jego rozwoju.

Najmocniejszy wątek nie dotyczy samego faktu, że system popełnia błędy. W przypadku autonomicznej jazdy to oczywiste pole walki dla każdej firmy. Problemem jest to, że część obecnych i byłych pracowników Tesli miała otwarcie deklarować, że nie zaufałaby FSD jako kierowcy we własnej podróży.

FSD miało mieć problemy tam, gdzie błąd boli najbardziej

Reuters opisał relacje byłych pracowników zajmujących się etykietowaniem danych, inżynierów autonomicznej jazdy, badaczy i ekspertów od bezpieczeństwa. Według tych relacji osoby pracujące przy systemie regularnie analizowały nagrania, na których Tesle z FSD miały trudności z autobusami szkolnymi, pojazdami uprzywilejowanymi, strefami robót, pieszymi i kontrolą prędkości.

Najbardziej drażliwy fragment dotyczy nieformalnej grupy określanej jako „trauma team”. Zespół miał zajmować się szczególnie niebezpiecznymi sytuacjami z udziałem pieszych, w tym dzieci. Byli pracownicy mieli też opisywać materiały z Teslami uderzającymi w zwierzęta, mijającymi zagrożenia albo wymagającymi interwencji człowieka w ostatniej chwili.

Nie jest to więc obraz technologii, która „już prawie” sama rozwiązała problem jazdy bez kierowcy. To raczej obraz systemu, który nadal wymaga mozolnego karmienia danymi, poprawiania scenariuszy i sprawdzania sytuacji granicznych. Autonomia w prawdziwym ruchu drogowym nie polega przecież na przejechaniu idealnej trasy, tylko na poradzeniu sobie z chaosem.

Statystyki bezpieczeństwa pod lupą

Drugim ważnym punktem są publiczne twierdzenia Tesli o bezpieczeństwie FSD. Elon Musk i inni przedstawiciele firmy od lat sugerują, że system jest znacznie bezpieczniejszy od kierowców. Reuters opisuje jednak zastrzeżenia badaczy do metodologii, na której Tesla opiera takie porównania. Według śledztwa firma miała zestawiać wypadki pojazdów z FSD obejmujące uruchomienie poduszek powietrznych z szerszymi federalnymi bazami, które obejmowały także mniej poważne zdarzenia.

Badacze krytykowali też porównywanie relatywnie nowych Tesli z całym parkiem pojazdów w USA, w którym są również auta dużo starsze. Kontrowersje budzi również sposób liczenia zdarzeń po wyłączeniu FSD. Reuters twierdzi, że Tesla zaliczała wybrane wypadki tylko wtedy, gdy dochodziło do nich w ciągu pięciu sekund od dezaktywacji systemu. Federalne standardy raportowania mają stosować dłuższe, 30-sekundowe okno.

Tesla krytykowała geofencing, a sama miała przygotowywać trasy

Najciekawszy paradoks dotyczy robotaxi i mapowanych stref działania. Elon Musk krytykował konkurentów, takich jak Waymo, za korzystanie z ograniczonych obszarów i dokładnie przygotowanych map. Jego przekaz był prosty: jeśli potrzebujesz wyznaczonej strefy, to nie masz prawdziwej autonomii. Tymczasem Reuters opisuje przygotowania Tesli do uruchomień w miejscach takich jak Austin i Kalifornia.

Byli pracownicy mieli mówić o zespołach oznaczających drogi, krawężniki, miejsca odbioru pasażerów, znaki i trudne sytuacje drogowe. Brzmi to mniej jak magiczna sztuczna inteligencja bez mapy, a bardziej jak klasyczna inżynieria z dużą ilością ręcznej roboty. Nie musi to być zarzut techniczny sam w sobie. Dokładne przygotowanie tras i analiza ryzyk mogą zwiększać bezpieczeństwo. Kłopot pojawia się wtedy, gdy komunikacja marketingowa sugeruje rozwiązanie ogólne, a praktyka operacyjna wygląda znacznie bardziej ostrożnie.

Największy problem Tesli to rozdźwięk między laboratorium a sceną

Z materiału Reutersa wyłania się firma, która wewnętrznie bardzo dobrze rozumie skalę wyzwania. Zespoły analizują błędy, opisują zagrożenia, sprawdzają interwencje i dopracowują sytuacje graniczne. Gdyby Tesla tego nie robiła, byłoby to znacznie bardziej niepokojące. Na zewnątrz narracja pozostaje jednak dużo bardziej triumfalna.

Autonomiczna przyszłość Tesli bywa przedstawiana jako coś stale odległego o kilka aktualizacji, kilka miesięcy albo jeden przełom programowy. Inżynieria mówi wtedy „jeszcze nie”, a marketing odpowiada „już prawie”.

FSD nadal jest obietnicą, nie dowodem końca kierowcy

Tesla ma ogromne doświadczenie w zbieraniu danych z realnych samochodów i rozwijaniu systemów wspomagania jazdy. To poważna przewaga, ale nie kasuje podstawowego faktu: Full Self-Driving nie jest równoznaczne z pełną autonomią w każdych warunkach.

Dlatego najważniejszy wniosek nie brzmi, że Tesla niczego nie osiągnęła. Brzmi raczej, że obietnica autonomicznej Tesli nadal wyprzedza poziom zaufania, jaki do systemu mieli mieć nawet niektórzy ludzie z jego zaplecza. A to w motoryzacji waży więcej niż najładniejszy wykres bezpieczeństwa.

O autorze